Уже первые дни Великой Отечественной войны показали, что медицина является одним из гарантов военной мощи государства, одним из основных стратегических средств восполнения людских ресурсов. В 1941 году, в сложнейший для нашей страны период, когда шли бои под Москвой, было принято решение о создании Музея военно-медицинской службы Красной Армии. 12 ноября 1942 года начальник Главного Военно-санитарного управления Красной Армии Е.И. Смирнов утвердил проект организационной структуры музея, главная цель которого была выражена в его высказывании: «В своем музее мы думаем начать историю не с сегодняшнего дня, а со времен Пирогова, так как готовились к войне с учетом прошлого, но самое главное — нужно отразить во всей широте военную медицину настоящего времени… Сейчас мы сможем получить то, чего мы не сможем получить по окончании войны. Это будет играть исключительно важную роль для будущих поколений».
Так было положено основание учреждения, призванного стать центром обобщения опыта отечественной медицинской науки, пропаганды медицинских знаний и здорового образа жизни, патриотического воспитания подрастающего поколения.
26 апреля 1943 года в Москве была открыта первая экспозиция, проработавшая до весны 1945 года. А затем было принято постановление Государственного Комитета Обороны о переводе музея в город на Неве, что было продиктовано стремлением максимально приблизить музей к богатейшему ленинградскому музейному комплексу, а также к центрам медицинской науки, в том числе Военно-медицинской академии, являвшейся основным источником медицинских кадров для Вооруженных Сил. В 1951 году музей принимал первых посетителей.
В первые годы существования перед музеем был поставлен ряд задач. Самой важной и сложной стало обобщение опыта медицинского обеспечения Великой Отечественной войны. Необходимость иметь постоянную учебно-научную базу для медицинского состава Красной армии требовала создания в составе музея архива, в котором были сосредоточены материалы, отражающие работу санитарной службы в военное и мирное время. При этом имелись в виду не только официальные документы, но и истории болезни раненых и больных, книги учета, операционные журналы госпиталей, книги протоколов военно-врачебных комиссий, осведомительные купоны формы № 3 учета военного времени на раненых и больных. Все материалы составили 60 млн единиц хранения. Так музей создал существующий и ныне архив военно-медицинских документов, составивших основной фонд для анализа, научной разработки и обобщения опыта отечественной медицины в годы войны, которые проводились в музее с первых дней его существования.