Идея разработки паровоза «нормального типа», который стал бы основным стандартом для локомотивного парка российских железных дорог, появилась еще в XIX веке.
В 1870 году Павел Мельников, на тот момент министр путей сообщения, в своих заметках писал о необходимости проектирования универсального паровоза для использования на просторах Российской империи. Но, как известно, от идеи до реализации нередко проходит какоето время. Так произошло и с нашим героем.
Острую необходимость в создании собственного железнодорожного парка царская Россия почувствовала спустя два десятилетия. Тогда перед отечественными инженерами и была поставлена ответственная задача — спроектировать базовую серию локомотивов, которая рассматривалась в равной степени и как пассажирская, и как грузовая. Одним из главных требований была простота в обслуживании и ремонте. В то же время учитывались пожелания военных, чтобы паровоз мог тянуть поезд с целым полком (около 2 тыс. человек) и легкими орудиями. Еще одной особенностью проекта стала универсальность колесной базы, которая подходила бы не только к русской, широкой колее, но и могла быть переделана под европейские стандарты. Что и говорить, проектировали поистине «универсального солдата»!
Его предшественники с четырьмя движущими осями мало подходили для модификаций, поэтому потребовалось немало потрудиться над изобретением чего-то кардинально нового. В разработке паровоза «О» участвовали такие светила отечественной инженерии, как Иван Рузин и Николай Щукин. Поначалу их заинтересовал парораспределительный механизм шотландца Александра Аллана. Однако первые же испытания показали слабые места машины. К тому моменту шотландский изобретатель умер, поэтому русские инженеры решили не заниматься доработкой, а использовать механизм другого англичанина, Дэвида Джоя.
Опытные экземпляры нового паровоза и первую серию из десяти локомотивов (из- начально названных заводским типом 39) выпустил в 1890 году Коломенский машиностроительный завод, а обслуживали они Владикавказскую железную дорогу, отличавшуюся сложным рельефом пути. До конца того же года были сделаны некоторые усовершенствования (к примеру, уменьшилась нагревательная площадь котла и сцепная масса паровоза, изменилась конструкция будки) — так появился тип 40. Оба типа, 39 и 40, были утверждены как паровозы «О» министром путей сообщения Адольфом Гюббенетом.