После окончания Великой Отечественной войны основу парка пассажирских паровозов Советского Союза составляли локомотивы серии СУ типа 1-3-1 с осевой нагрузкой около 18 т (более 2000 паровозов) и серии ИС типа 1-4-2 с осевой нагрузкой в 20–21 т (около 640 паровозов). Применение паровозов ИС ограничивалось магистралями, прошедшими реконструкцию и допускавшими обращение столь тяжёлых локомотивов, поэтому они работали только за Уралом, остальная часть находилась в запасах либо понесла военные потери.
СУ уже к середине 1930-х годов, несмотря на замечательные ходовые качества, переставали справляться с возросшими пассажирскими перевозками. Вес поездов возрос, и на некоторых участках железных дорог, обслуживавшихся паровозами СУ, применялась двойная тяга. На участках же с тяжелым профилем пути для вождения пассажирских поездов после войны иногда вынужденно применялись мало приспособленные к пассажирской работе товарные паровозы СО и вполне универсальные Л, но не обладающие ходом должной мягкости и ограниченные конструкционной скоростью (в 1950-х годах на ряде направлений — например, на участке Буй — Шарья — Киров паровозам серии Л конструкционную скоростью повышали с 80 до 90 км/ч, чтобы справиться с графиком). Таким образом, стала очевидна потребность в более мощном и совершенном пассажирском локомотиве с осевой нагрузкой, не превышавшей 18 т.
В результате анализа возможных вариантов перспективного локомотива (рассматривались типы паровозов 2-3-2, 2-3-1, 1-4-1 и др.) было решено принять для нового паровоза осевую формулу 2-4-2. Задание на проектирование новой машины было выдано Коломенскому заводу. Ее создание велось под руководством главного конструктора завода Л.С. Лебедянского под непосредственным руководством Г.А. Жилина.
Опытный паровоз был готов к декабрю 1949 года. Официально его сдачу приурочили к 70-летию И.В. Сталина, которое отмечали 21 декабря 1949 года. Паровоз был не зеленого, а стального цвета. О том, что его выпуск посвящен юбилею вождя, гласили большие надписи, размещенные на дымоотбойных щитах нового паровоза. Первоначально первый локомотив 2-4-2 был оборудован вентиляторной тягой, при которой можно сжигать угли очень низкого качества, что было особенно актуально после войны, но она через непродолжительное время была заменена на обычную конусную. Паровоз П36-0001 (серия П36 исходит из номера проекта Коломенского завода, паровоз так и не получил собственное имя), в отличие от всех последующих машин этой серии, был оснащен шестиосным тендером (тип П35), изготовленным Брянским заводом. Тендер имел полуцилиндрический водяной бак. Подобные тендеры использовались также на опытных грузовых паровозах серий П34 и УУ23. На паровозе был установлен механический углеподатчик С-3.