Здание Железнодорожного вокзала, возводившееся в 1876 году на Комсомольской площади, изначально стояло неподалеку от Всесвятского кладбища. Вокруг вокзала была благоустроена прилегающая территория, включая небольшой сквер с часовней, что делало прибывание здесь комфортным для пассажиров. И вокзал, и часовню спроектировал архитектор граф Де-Рошефор. Это место стало известно как Вокзальная площадь. Кроме часовни, в 1971 году здесь было возведено двухэтажное кирпичное здание, построенное на средства богатого купца и позднее переданное техническому училищу. В 1896 году на Вокзальной площади устроили конку, предоставив пассажирам возможность прокатиться по городу на конном транспорте за небольшую плату. Несмотря на несколько изменений в названии, площадь всегда оставалась ключевой точкой города. В 1904 году она временно стала Николаевской после прибытия императора Николая II, а в период советской власти получила имя Комсомольской в честь Комсомола, организации молодежи.