9 февраля 1872 года был издан указ императора Александра II об учреждении в Москве «Музея имени Его Императорского Высочества Государя Наследника Цесаревича». Этот день считается днем основания Государственного исторического музея.
В апреле 1874 года Московская городская дума выделила для постройки музея землю на Красной площади, на которой находилось здание Земского приказа, построенное в конце XVII века. В том же году старинная постройка была снесена для освобождения места под новое строительство.
Согласно конкурсному заданию, здание музея должно было быть выдержано в формах русской архитектуры XVI века, чтобы его облик органично соответствовал сложившемуся к тому времени архитектурному ансамблю Красной площади. По итогам конкурса предпочтение было отдано проекту архитектора Владимира Шервуда и инженера Анатолия Семенова, который перекликался с решением снесенного здания приказа.
В итоге Владимиром Осиповичем Шервудом было разработано несколько вариантов проекта. Из них был выбран проект здания в неорусском стиле, модном в то время. Интерьеры здания напоминают теремной дворец. Стены выложены из красного обожженного кирпича, как и стены находящегося рядом Кремля. Башни постройки напоминают кремлевские. Декор повторяет мотивы храма Василия Блаженного. Так мастера добились органичного вхождения постройки с многочисленными башнями и высокими фигурными кровлями в ансамбль Красной площади.
В оформлении фасадов были использованы мотивы убранства памятников русского национального зодчества XVI–XVII веков. Здание интересно не только снаружи, но и внутри. Его фасады и интерьеры, внутреннее убранство: росписи потолков и стен, мозаичные полы и решетки,— дают наглядное представление об этапах развития России.
Владимиром Шервудом выполнены проекты интерьеров парадных сеней и залов. Для их оформления он предложил использовать фресковую живопись и скульптуру. В оформлении Суздальского зала принял участие архитектор П.С. Бойцов. Оборудование и отделку Читального зала выполнил архитектор И. Е. Бондаренко. Над отделкой залов работали также московский архитектор А.П. Попов и художники И.К. Айвазовский и В.М. Васнецов.