Inicijatori za osnivanjem su Družba Braće Hrvatskog Zmaja – Emilij Laszowski, Velimir Deželić i Stjepan Širola. Otvaranjem knjižnice na drugom katu kamenitih vrata htjeli su spasiti Kamenita vrata od rušenja jer se onda nekoliko puta razmišljalo o rušenju jedinim sačuvanim gradskim vratima koja se prvi put spominju 1429.g a vjeruje se da su sagrađena još 1266.g. Gradsko poglavarstvo sa Milanom Amrušem na čelu kao gradonačelnikom – dopustili su otvaranje knjižnice i 7. Prosinca 1907 je svečano otvorena. Ostaje u kamenitim vratima sve do 1937.g kada se preseljava u Novinarski dom u Perkovčevoj. 16. listopada 1950.g otvara se prvi odjel za djecu i tada se zval Pionirska knjižnica. Knjižnica se iz Novinarskog doma 1995.g seli u Starčevićev dom na Glavnom kolodvoru. Gradska knjižnica broji više 2 milijuna naslova.
