Konya diğer kültür kaynaklarında olduğu gibi kütüphaneler yönünden de zengin bir geçmişe sahiptir. İlk kütüphane Selçuklu Türkleri devrinde Emir Şemsettin Altınapa tarafından İplikçi Medresesi’nde açılmış, bundan sonra Nizamiye Hankâhı’nda ve Sadreddin-i Konevî Medresesi’nde, Kutlu Melek Hatun tarafından ise Atabekiye Medresesi civarında çok sayıda kütüphaneler kurulmuştur. Osmanlı İmparatorluğu devrinde, bugün hâlâ hizmete devam etmekte olan Mevlâna Dergâhı Kütüphanesi ile 1795 yılında yapılan Yusuf Ağa Kütüphaneleri kurulmuştur.
Halk kütüphanesi ilk defa “Milli Kütüphane” adı ile 1910 yılında Konya Valisi Muammer Bey’in öncülüğünde, eski Rehberi Hürriyet Okulu içinde bir binada kurulmuştur. Kütüphanenin 1919 yılında 1 memur, 1 odacı kadroları Özel İdarece temin edilmiş ve Özel İdare’ye bağlı olarak uzun yıllar hizmet vermiştir.
Kütüphane sırayla Maarif evlerine, Şerafettin Camii yakınında bir binaya, Vali İzzet Bey zamanında da Hacı Hasan Camii’ne taşınmıştır. Uzun yıllar Hacı Hasan Camii’nde kalan kütüphane kuruluş hazırlıklarını burada tamamlamıştır. 1947 yılında Milli Eğitim Bakanlığı Kütüphaneler Genel Müdürlüğü emrinde “Konya Umumi Kütüphanesi” adıyla çalışmaya başlamıştır. 1950 yılında, daha sonra yıkılmış olan Alâeddin Tepesi’ndeki Halkevi binasının bir katına taşınmış, 1955 yılında da Anıt alanındaki Halkevi Kütüphanesini de içine alarak hizmete girmiştir. Bu bina halen Devlet Tiyatrosu olarak kullanılmaktadır. 1978 yılında Mevlana Tetkikleri Enstitüsü olarak yapılan Mevlâna alanındaki binaya taşınmıştır.
Kültür ve Turizm Bakanlığı ile Konya Büyükşehir Belediye Başkanlığı arasında 17.04.2009 tarihinde bir protokol yapılmış, Mevlâna alanındaki İl Halk Kütüphanesi binası Konya Büyükşehir Belediyesine devredilerek Kültürpark içerisinde Konya Büyükşehir Belediyesi tarafından yeni bir kütüphane binası inşaatının yapılması ve mevcut kütüphane binası ile yeni binanın karşılıklı olarak tahsisen teslim edilmesi kararlaştırılmıştır. Binanın temeli 02 Mart 2010 tarihinde atılmış, bir yıl gibi kısa bir sürede binanın inşaatı tamamlanmıştır. Kütüphane, 01.11.2011 tarihinde yeni yapılan bu binaya taşınmıştır. 28.11.2011 tarihinden itibaren de okuyucuya hizmet vermeye başlamıştır.
İl Halk Kütüphanesi binası bodrum kat ile birlikte 4 kat ve teras katından oluşmaktadır. Bodrum katta Arşiv, Cilt Atölyesi, Su Deposu, Makine Dairesi, Sığınak ve Jeneratör bulunmaktadır. Zemin katta, İnternet Salonu ile Görsel ve İşitsel Materyal Kullanma Salonu, Okul Öncesi ve Çocuk Bölümü, Gençlik Bölümü, Ödünç Verme Ünitesi ve Konferans Salonu bulunmaktadır. Birinci katta, Okuma Salonu A, Okuma Salonu B, Süreli Yayın Bölümü, Teknik Hizmetler Birimi bulunmaktadır. İkinci katta, Serbest Çalışma Salonu ve içerisinde grup çalışma odaları (4 adet olup her biri 16 m2), Konya İhtisas Kitaplığı, Yemekhane ve Yönetim birimi bulunmaktadır. Teras katta ise yazlık ve kışlık olarak iki bölüm bulunmaktadır.
Konya İl merkezinde bakanlığımıza bağlı 2 halk kütüphanesi, 1 bölge cilt atölyesi bulunmaktadır. İl Halk Kütüphanesi bünyesinde hizmet vermekte olan Bölge Cilt Atölyesinde Konya, Karaman ve Isparta illerinde hizmet vermekte olan kütüphanelerin kitapları onarılmakta ve ciltlenmektedir. İlçe ve kasaba kütüphanelerinin sayısı 33'tür. İl Halk Kütüphanesi ile Akşehir, Çumra, Ereğli, Sarayönü, Kadınhanı, Beyşehir, Seydişehir kütüphaneleri Müdürlüktür.