市立圖書館前身為「打狗文庫協讚會」及「高雄州民眾教育館」。
早期在中正四路上，命名為「高雄市立中山圖書館」，高雄市立圖書館遷移多次，最後座落在民生路及中華路上（現今城市光廊的後方）。隨著民生路圖書總館使用已超過30年，建築老舊不符合民眾需求。於民國100年開始規劃圖書新總館，103年11月完工啓用，為提供高雄市民一個舒適的閱讀空間、一座藏書豐富的圖書總館。
為提升市民閱讀風氣，目前所轄館舍除了高雄市圖書館總館與高雄文學館外，尚有各行政區普設圖書館分館及新興民眾閱覽室，左營新館、小港分館分別將於98年6月及99年12月開館營運。另外，坐落在大東文化藝術中心內的大東藝術圖書館，為首創藝術專業的圖書館，於101年4月22日正式開館營運，是高雄市立圖書館的分館之一。以「藝術閱讀」為設立宗旨，期盼能深耕藝術教育，成為南台灣的藝術資源寶庫。
市立圖書館借閱證的申請非常方便，凡中華民國國民均可持戶口名簿或相關身分證明文件辦理，也適用於高雄市各分館、文化中心圖書館及市立空中大學圖書館(民眾部)。現今的資訊發達又便利，圖書館同時針對大批贈書，採取「到宅取書」的貼心服務，各圖書館服務台也均受理民眾捐贈圖書。另民眾不論在高雄市任何一家圖書館借書，只要在家附近的圖書館皆可還書喔！