Из дворян Галицкого уезда Костромской губернии. В 1785 г. записан в л.-гв. Конный полк вахмистром.^[3] 1 января 1794 г. получил чин капитана и был назначен в Московский гренадерский полк. Переведенный командиром батальона в Сибирский гренадерский полк, он оказался в 1804 г. в составе войск, направленных на усиление российских гарнизонов на Ионических островах. В следующем году был переброшен в Италию, в 1806 г. с войсками вернулся в Россию. Командуя Сибирским полком,^[4] участвовал в русско-турецкой войне.^[5] За отличие в бою при Обилешти награжден орденом Св.Владимира 4-й ст. с бантом. В 1810 г. Рылеев вел Смоленский пехотный полк^[6] на приступ Базарджика и удостоился золотой шпаги с надписью «за храбрость», а вскоре – и ордена Св.Анны 2-й ст. за Шумлу. Полковник с 30 августа 1811 г. В 1812 г. возглавил 1-ю бригаду в 12-й пехотной дивизии.^[7] В упорном сражении под Салтановкой 11 июля Смоленский полк, отступая, прикрывал артиллерию дивизии. В этом бою Рылеев получил тяжелую раму картечью в левую ногу, что вывело его из строя на полтора года. Император Александр I наградил его чином генерал-майора.^[8] Сменив несколько командных и административных должностей,^[9] с 1820 г. служил в Корпусе военных поселений.^[10] Император Николай I наградил Рылеева орденом Св.Анны 1-й ст. и производством в генерал-лейтенанты.^[11] С 1829 г. и до кончины служил военным комендантом Новгорода.^[12]