A Palóc Múzeum könyvtára 10.000 kötetet meghaladó tudományos szakkönyvtár. Fő gyűjtőterülete a néprajz, a társtudományok és határtudományok (történelem, szociológia, antropológia) tudományos irodalma. A magyar és idegen nyelvű szakkönyveken kívül szakfolyóiratok is találhatóak a könyvtárban (Néprajzi Értesítő, Néprajzi Hírek, Ethnopraphia, Néprajzi Látóhatár stb). Ezen kívül más múzeumok kiadványai, évkönyvei valamint irodalomtörténeti- , helytörténeti-, és művészettörténeti kiadványok is vannak a gyűjteményben.
A Palóc Múzeum könyvtári állományának legértékesebb része a 887 kötetből álló Nagy Iván könyvtári hagyaték. Nagy Iván históriai érdeklődése felölelte a teljes magyar történelmet. Legismertebb műve a magyar nemesi családok nemzedékeit bemutató tizenhárom kötet, de írt címertani, pecséttani, genealógiai értekezéseket, közreadott régi forrásokat, felfedezett könyvritkaságokat, megírta a híres magyar nők történetét, és vannak irodalomtörténeti, művelődéstörténeti, hadtörténeti, településtörténeti, archeológiai tanulmányai. Könyvtára korának egyik legnagyobb magángyűjteménye, s mint szakkönyvtár valószínűleg a legjelentősebb volt. Elsősorban történelmi témájú kiadványokat tartalmazott, de megtalálhatóak voltak benne ősnyomtatványok, kéziratok, térképek, rézmetszetek, folyóiratok és hírlapok, teológiai, természettudományi, néprajzi, irodalomtörténeti, jogi, szépirodalmi munkák is.
A múzeumalapító tudós, akadémikus gyűjteménye 1898-ban bekövetkezett halála után, 1904-1905-ben került a múzeum birtokába. Az értékes könyvtárnak több költözést és két világháborút kellett átvészelnie, s ennek következtében nagy része elpusztult. Ma már csupán töredéke található meg a múzeumban, de volt tulajdonosának széleskörű érdeklődését, nyitottságát még így is híven tükrözi. (kalendáriumok, almanachok, hadi művek, esztétika, családtörténet, stb) Ez a muzeális értékű könyvgyűjtemény a „Tudós köznemesi könyvtár – Nemzeti történelmünk tüköre” című állandó kiállításon kerül bemutatásra.
Az idők során a könyvtár további kisebb hagyatékokkal bővült (Szontágh Pál, Jeszenszky Kálmán).
A könyvtár a Palóc Múzeum épületében található. Dokumentum nem kölcsönözhető, kutatási kérelem kitöltése után a könyvtár használata ingyenes.