В історії Хмільницької бібліотеки є багато цікавих та важливих сторінок. За свідченнями старожилів, вона була відкрита в 1921році.
Під час Другої світової війни приміщення бібліотеки було зруйноване.
У 1936 році відкрита Хмільницька районна бібліотека для дітей та юнацтва.
В березні 1944 року після звільнення Хмільницького району від нацистських окупантів в місті Хмільнику відкрита бібліотека з фондом 550 книг, в районі – 8 сільських бібліотек з фондом 3170 книг, і 20 хат-читалень.
В 1949 році книгозбірню переводять в приміщення швейної фабрики. На той час в районі діяло 34 сільських бібліотеки.
В 1951 році Хмільницька районна бібліотека діяли читальний зал та абонемент. Книжковий фонд становив 8108 книг, з них дитячої літератури –423 примірники.
Станом на кінець 1961 року бібліотека мала 16 тис. примірників книг.
В 1965 році в Хмільницькому районі діяли:
районна бібліотека для дорослих,
районна бібліотека для дітей,
міська дитяча бібліотека,
62 сільські бібліотеки.
У 1979 році було створено централізовану бібліотечну систему (ЦБС), яка об'єднала бібліотеки району для поліпшення організації бібліотечної роботи та забезпечення доступу до книг і інформації для більшої кількості користувачів. Були створені: Центральна районна бібліотека, районна бібліотека для дітей, міська бібліотека для дітей, 73 сільські філії.
Центральна районна бібліотека та міська бібліотека для дітей переведені в приміщення колишньої швейної фабрики.
В 1990 році міську бібліотеку для дітей було ліквідовано. В січні 1991 року створену міську юнацьку бібліотеку.
В 1991 році – в приміщення колишнього райкому партії.
В січні 1997 року було об’єднано районну дитячу та міську бібліотеку для юнацтва. Установа отримала назву «Районна дитяча та юнацька бібліотека».
Згідно до розпорядження райдержадміністрації №191від 03.09.2021р. «Про реорганізацію районної бібліотеки для юнацтва Хмільницької централізованої системи» статус районної бібліотеки для дітей та юнацтва змінено на районну бібліотеку для дітей.
2001 році бібліотеки були переведені в приміщення Районного Будинку культури.
2002 року відбулася децентралізація району. Центральну районну бібліотеку реорганізовано в районну бібліотеку для дорослих.
2009 рік – участь у відкритому конкурсі проектів «Інтернет для читачів публічних бібліотек (LEAP –VІІІ) і отримання гранту від Посольства США в Україні.
2010 рік – відкрито Інтернет-центр.
2011 рік – перемога у конкурсі «Організація нових бібліотечних послуг з використанням вільного доступу до Інтернету II» програми «Бібліоміст» та відкриття 2-го Інтернет-центру, відкрито 4 Інтернет-центри в 4-ьох сільських бібліотеках сіл: Вишенька, Соколова, Лозна, Скаржинці. В 2011 році створено веб-сайт Хмільницької районної бібліотеки для дорослих.
2012 рік – бібліотека стала переможцем конкурсу «Сучасна бібліотека йде в люди» започаткованого Радою міжнародних наукових досліджень та обмінів (IREX) у рамках програми «Бібліоміст» http://www. bibliomist.org для українських публічних бібліотек.
В травні 2012 року Хмільницька районна бібліотека для дорослих взяла участь у ярмарку бібліотечних інновацій «Сучасна бібліотека: розвиваємо місцеві громади», яка відбулася в м. Києві. Представлено проект «Підвищення рівня правової обізнаності місцевої громади».
Участь у форумі «Партнерство бібліотек та НУО: нові можливості», який організували «Бібліоміст» та Хмельницька обласна універсальна наукова бібліотека ім. Островського.
2013 рік – територіальний центр соціального обслуговування на базі Інтернет-центру бібліотеки для дорослих організували безкоштовні курси з комп'ютерної грамотності для людей похилого віку «Університет третього віку – вікно у світ».
2016 рік – перемога у спільному конкурсі Міжнародного фестивалю документального кіно про права людини Docudays UA та Програми Bibliomist «Кіноклуб Docudays UA в бібліотеці».
2016 рік – перемога у конкурсі проекту УБА «Все про Європу: читай, слухай, дізнавайся в пунктах європейської інформації в бібліотеках» за підтримки Європейського Союзу (програма «Еразмус +»).
2017 рік – районну бібліотеку для дорослих реорганізовано в КЗ «Хмільницька районна бібліотека для дорослих» та затверджено рішенням 16 сесії районної ради 7 скликання від 18.05.2017 року.
В червні 2017 року Хмільницька районна бібліотека для дітей була реорганізована. На її основі створено комунальний заклад «Хмільницька районна дитяча бібліотека». Всі масові заходи і події в бібліотеці в повній мірі яскраво висвітлювалися на блозі КЗ «Хмільницька районна дитяча бібліотека».
2017 рік – перемога у районному конкурсі «Людина року» у номінації «Жінка року».
2018 рік – перемога у п’ятнадцятому обласному конкурсі проектів розвитку територіальних громад «Інтернет без меж: спілкуємося, об’єднуємося заради збереження історико-культурної спадщини та духовності».
По Хмільницькій міські ОТГ на 01.01.2021 року функціонували бібліотеки: КЗ «Хмільницька районна бібліотека для дорослих» та КЗ «Дитяча бібліотека» Хмільницької міської ради.
У 22.01.2021р. перейменована КЗ «Хмільницька районна бібліотека для дорослих» на Комунальний заклад «Бібліотека для дорослих» Хмільницької міської ради.
З 01.08.2021року до КЗ «Бібліотека для дорослих» увійшла КЗ «Дитяча бібліотека» Хмільницької міської ради, як відділ обслуговування дітей, та 18 бібліотек-філій.
У 2021 році КЗ «Дитяча бібліотека» увійшла у «Програму_поповнення_бібліотечних_фондів» Українського інституту книги і отримала 510 яскравих, чудових, неймовірно цікавих книг українських видавництв.
Інтернет-центр є офіційним хабом національного проекту «Дія.Цифрова освіта» з 2021 року.
28 липня 2023 року рішенням 45 сесії Хмільницької міської ради 8 скликання № 1932 «Про перейменування закладу культури та затвердження Статуту» бібліотека була перейменована на Комунальний заклад «Хмільницька публічна бібліотека».
До Комунального закладу «Хмільницька публічна бібліотека» Хмільницької міської ради входить 18 бібліотек-філій.
В КЗ «Хмільницька публічна бібліотека» всього спеціалістів – 34, з них бібліотечних працівників – 31.
При КЗ «Хмільницької публічної бібліотека» у відділі обслуговування дітей діє пункт Допомоги для переселенців під час війни.
У 2024 році, завдяки перемозі у Проєкті з медіограмотності fit in fakten від науково-популярного медіа «Куншт», програми Східного партнерства, Інтернет-центр отримав інтерактивні ігри з навчання медіа грамотності.
Взяли участь у проєкті «Валізка з книжками» для українських бібліотек, який організовано культурним інститутом Німеччини у співпраці з Німецькою бібліотечною асоціацією та Українським інститутом книги за підтримки МЗС Німеччини та отримали подарунок – 22 примірники книг на суму 4 916 грн.
Завдяки участі у відборі бібліотек «Німецька книжкова полиця в Україні» в межах проєкту «Обмін між німецькою та українською книжковою та літературною індустрією», що фінансується Уповноваженою федерального уряду Німеччини з питань культури та засобів масової інформації та реалізується Goethe-Institut Ukraine, Німецькою асоціацією видавців та книгорозповсюджувачів і Українським інститутом книги отримали 14 примірників книг на суму 4 279 грн.
Здобули перемогу у Міні-проєкті «Професійне зростання» та отримили сертифікат на суму 10 000 грн., що дало змогу купити 43 примірники книг.
У обласному online-фотоконкурсі «Читаю попри все!» читачі бібліотеки-філії с.Кожухів взяли 2 призових місця (І і ІІІ місце).
Взяли участь у Всеукраїнському дитячому літературному конкурсі «Творчі канікули 2024», конкурсі соціальних ініціатив «Час діяти, Україно!», обласному конкурсі бібліографічних покажчиків. В обласному онлайн конкурсі читців сатири та гумору до дня народження Степана Руданського вибороли 6 призових місць у різних вікових категоріях.
При бібліотеці працює програма ІРБІС, функціонує власний веб-сайт бібліотеки.
Робота бібліотеки висвітлюється на сайті http://hm-library.com.ua КЗ «Хмільницька публічна бібліотека», блогах, соціальних мережах бібліотек - філій.