А началось все с того, что Владикавказская железная дорога заказала КМЗ несколько десятков локомотивов с четырьмя движущими колесными парами и двухцилиндровой машиной компаунд. Первая десятка новинок в 1890 году получила обозначение К. Затем год за годом в конструкцию вносились многочисленные изменения, вследствие чего появлялись новые модификации. В 1912 году начался выпуск Од, где индекс «д» означал наличие кулисного механизма Джоя, за что паровозы прозвали «джойками». Следом на свет появились модификации Ол, Ок, Ов (знаменитые «овечки»), Оп и др.
А потом случился почти десятилетний перерыв, после которого паровозы О продолжили выпускать в советский период, в 1925 году.
Конструкторы и дальше предлагали разные усовершенствования, так, например, появились Оу — «усиленные».
Паровозы серии О эксплуатировались по всей сети, включая Сибирскую и Забайкальскую железные дороги. Это неудивительно, ведь они привлекали своей простотой в ремонте и обслуживании, надежностью конструкции и «всеядностью», то есть возможностью работы на разных видах топлива — угле, мазуте, дровах, торфе.
По меркам конца XIX — начала ХХ века паровозы считались довольно мощными. И хотя со временем они стали уступать более продвинутым моделям, но все равно продолжали цениться и еще долго трудились на железных дорогах Советского Союза.
С середины 1930-х годов большая часть парка данной серии перешла на маневровую работу и обслуживание промышленных предприятий. Но довелось им участвовать и в Великой Отечественной войне. «Овечки» использовались как локомотивы бронепоездов из-за того, что имели низкую нагрузку на ось (12,5–14 тс) и меньший размер в сравнении с другими сериями, что позволяло установить больше броневой защиты. При этом мощности вполне хватало, чтобы тянуть бронеплатформы. После войны О еще послужили людям, последняя «овечка» трудилась до 1964 года на тупиковой линии Чернышевск — Букачача Забайкальской железной дороги.
Паровозы серии Э тоже начали выпускаться еще во времена Российской империи, однако в Советском Союзе продолжали пользоваться большой популярностью. Как и О, они стали свидетелями революции, Первой мировой и Великой Отечественной войн. Эти локомотивы выпускались с некоторыми перерывами вплоть до 1957 года. А в историю вошли как самые массовые грузовые — всего их было изготовлено почти 11 тыс. единиц.