Строительство библиотеки началось в 1951 году, в нем приняло участие более ста работников второго стройучастка треста "Калининстрой": бригады каменщиков, плотников, бетонщиков, штукатуров, паркетчиков, маляров под руководством прорабов Косарского А.И. и А.В. Савельева, начальника участка, инженера И.М. Тихомирова. Лепные работы были выполнены мастером М.М. Кузьминым, отделка портика и балюстрады в вестибюле Курочкиным и Анисимовым. Общий объем возведенного здания составил 18 тысяч куб. метров, на него было истрачено 800 кубометров бутового камня и 1 миллион 200 тысяч кирпичей. Особое внимание уделялось монтажу металлических стеллажей в книгохранилище. Новая конструкция стеллажей по проекту В.В. Белоцерковца впервые в стране устанавливалась в Калининской областной библиотеке. Планировка книгохранилища проектировалась инженером А.С. Нечаевым. Согласно проекту было смонтировано 15 тысяч деталей общим весом до ста тонн. В книгохранилище предполагалось разместить 800 тысяч томов.

В здании все подчинялось одной цели: создать наибольшие удобства для читателя и его обслуживания. Двойные тамбуры при входе сдерживали попадание холодного воздуха в вестибюль. На первом этаже располагался гардероб и отдел выдачи книг на дом - абонемент: справа - взрослый, слева - молодежный. Широкая парадная лестница вела на второй этаж, где находились: зал каталогов, методический кабинет и юношеский читальный зал. На третьем этаже - центральный читальный зал, газетно-лекционный зал и зал для научных работников. Удобно размещался большой фонд, компактно - рабочие комнаты, много простора и света в отделах обслуживания читателей. Интерьеры помещений были разработаны при участии архитекторов Т.А. Кордюковой и Н.Б. Дементьева. Потолки библиотеки украшены лепными узорами, в нишах стен центрального читального зала - портреты писателей, на лестнице - пилястры и балюстрада с бюстами русских поэтов и прозаиков.

День открытия библиотеки превратился в большой праздник жителей города и области. На открытие приехали библиотечные работники Москвы, Ленинграда, Владимира, Тулы, Горького, Воронежа, Ярославля, Курска, Калуги, Костромы, Эстонской, Литовской, Киргизской ССР.