Впервые идея формирования военно-исторического музея в нашей стране возникла еще в 1860-е годы. На тот момент в России уже была Оружейная палата, имелся ряд военных музеев, действовала Военная галерея Зимнего дворца. Для увековечивания памяти подвига русского народа в Отечественной войне 1812 года строился храм Христа Спасителя, который должен был стать мемориалом.
Идея его создания принадлежала императору Александру I в честь победы в Отечественной войне. После окончания войны в обществе прошла волна подъема национального самосознания, закрепить которую нужно было масштабным монументом национального значения. Еще до издания Манифеста об окончании войны, 14 ноября 1812 года, император отдал указ главнокомандующему в Москве графу Ф. Растопчину «О собирании в Москву всех взятых у неприятеля пушек для сооружения из них памятника», где указывалось: «Всю отбитую у неприятеля в разных сражениях артиллерию повелели мы генерал-фельдмаршалу Кутузову препровождать в Москву...»
В том же 1812 году был представлен первый проект памятника-колонны, сооруженной из отбитых у неприятеля орудий. Сбор французских орудий проводился и в самой России — в ноябре 1812 года гражданским губернаторам в губерниях, где велись бои с французами, было поручено произвести отобрание у поселян отбитого ими у неприятеля оружия взамен на положенную плату.
Пушки собирались у стен кремлевского Арсенала на протяжении всего XIX века, они находились здесь еще в начале ХХ века. Памятник из неприятельских орудий должен был быть установлен при спуске набережной храма Христа Спасителя к реке. Место для двух обелисков действительно было выделено и оставлено по обеим сторонам спуска. Один из них должен был быть сделан из орудий, отнятых на территории России в 1812 году, другой — из орудий, отнятых у неприятеля уже за границей в 1813–1814 годах. Однако полноценно этот проект так и не был реализован.
А вот храм Христа Спасителя стал главным символом военной доблести русского народа в войне 1812 года, одним из первых российских военных мемориалов. Решение о строительстве мемориального храма в честь победы над Наполеоном было принято в декабре 1812 года.Поиск архитектора занял несколько лет, был объявлен международный конкурс на проект храма, принять участие в котором могли талантливые архитекторы со всей Европы.