Созданию и формированию библиотеки придавалось огромное значение. Первая закупка книг, моделей и инструментов была незамедлительно произведена через посредство русского посла в Париже А.В. Куракина и к началу первого учебного года, в 1810 они были доставлены в Петербург.
В дальнейшем в библиотеку единственного в стране инженерно-строительного учебного заведения по распоряжению правительства поступали материалы из Главного управления путей сообщения и других государственных учреждений; книги приобретались у книготорговцев и у частных лиц; производился обмен с Географическим обществом, передачи материалов из императорской Эрмитажной библиотеки, покупка дублетов в Публичной библиотеке. Решение о приобретении той или иной книги или журнала в первые годы существования библиотеки принимал главноуправляющий, потом — директор Института. Существовала также традиция приносить в дар библиотеке собрания книг, собственные работы (в том числе подлинные проекты), особо ценные материалы из личных библиотек.
Так в фонд библиотеки Института вошла коллекция архитектурных книг архитектора Огюста Рикара де Монферрана, закупленная в 1860 году, после его смерти; коллекция прославленного командира фрегата «Паллада» адмирала К.Н. Посьета; архитектурные труды из собрания архитектора Чарлза Камерона, отмеченные печатями, экслибрисами или автографами прежних владельцев. С трепетом просматривая эти скромные знаки, представляешь себе, какие пути прошли с ходом столетий некоторые старинные книги, прежде чем оказаться в фонде библиотеки.
Особую роль в создании и формировании библиотеки сыграли преподаватель и библиотекарь А.И. Баландин и директор Института 1861–1882 гг. В.П. Соболевский. По воспоминаниям современников, Владимир Петрович с таким энтузиазмом содействовал обогащению библиотеки, что порой не стеснялся в средствах для получения интересной книги, покупал их, выменивал, а то и выпрашивал или попросту отбирал у законных владельцев. При Соболевском фонд библиотеки вырос в семь раз, достигнув 35 000 томов.