Основан в 1920 г. как Архив Красной Армии при Военно-исторической комиссии Всероссийского Главного штаба (Всероглавштаб) в качестве ведомственного архива. С января 1921 года Архив Красной Армии, как и другие военные архивы на территории РСФСР, поступил в ведение военно-морской секции Единого государственного архивного фонда (ЕГАФ). В 1925 году Архив Красной Армии становится самостоятельным центральным государственным архивом. В апреле 1933 года он преобразован в Центральный архив Красной Армии (ЦАКА). В марте 1941 года архив реорганизован в Центральный государственный архив Красной Армии (ЦГАКА), а с 1958 года он становится Центральным государственным архивом Советской Армии (ЦГАСА). В 1966 г. в состав архива были включены документы внутренних и пограничных войск НКВД-МВД СССР. В 1992 году ЦГАСА был переименован в Российский государственный военный архив (РГВА).