Az 1531-ben alapított „schola reformata“ mellett már bizonyára létezett egy kisebb könyvgyűjtemény is, mely az oktatás céljait szolgálta. A könyvtárnak ez a legkorábbi anyaga sajnos az idők folyamán elpusztult.

A 16-17. századi könyvbejegyzések arról tanúskodnak, hogy a könyvtár tulajdonosa és fenntartója az úgynevezett „Coetus" volt. (Ez a protestáns kollégiumi közösségeket jelentette, amelyeket a rektor-professzor vezetésével, meghatározott törvényeik szerint maguk a tanulók kormányoztak.) Ebben a könyvtárban az iskola széniora (az ifjúság sorából választott kollégiumi tisztségviselő) volt a mindenkori könyvtáros.

Első könyvtártörténeti adatunk 1619-ből való. Egy teológiai munka (Conradus Schlusselburgius: Theologiae Calvinistarum libri tres. Frankfurt am Main, 1594.)  belső tábláján halványan olvasható volt, hogy ez a kötet akkor a pápai coetus tulajdonát képezte. A 17. századból aránylag magas számban fordulnak elő a heidelbergi református professzorok könyvei, ami azt jelzi, hogy a pápai diákok gyakran keresték fel a heidelbergi egyetemet. Könyvtárunk egyik legrégibb könyvhagyatéka Veresmarti D. Mihályé, aki 1683 és 1690 között valamikor a kollégium diákja, 1690-től győri rektor, majd mezőlaki, csöglei, végül mezőörsi lelklsz volt, és 1709-ben halt meg. Veresmarti az 1690-es évek második felében a kollégiumnak adományozta könyvtárát, melyből kb. 40 kötet ma is megvan.

A Rákóczi-szabadságharcot követő évtizedek nem hoztak jelentősebb változást a könyvtár életében. Mindemellett még a szerény fejlődésnek is gátat szabott Mária Terézia rendelete, mellyel megvonta a szabad vallásgyakorlat jogát a pápai reformátusoktól, s a kollégiumnak 1752-ben a közeli Adásztevelre kellett költöznie. A könyvtár állománya is - amely pedig már több száz kötet lehetett - szétszóródott, még Erdélybe is kerültek könyvek. Tóth Ferenc professzor azt írja: "Maradt a régi bibliothecának 127 darab könyve." 1784-ben II. József engedélyt adott, hogy az iskola visszatérjen Pápára.

Míg korábban legfőképpen adományok útján gyarapodott a könyvtár, a 18. század végétől megindult a tudatos építés és gyarapítás folyamata. A mai Történeti Könyvtár törzsanyaga a felvilágosodás és a reformkor idején alakult ki, elsősorban Mándi Márton István (1760-1831) és Tóth Ferenc (1768-1844) munkálkodása nyomán.

Az általuk 1802-ben elkészített könyvtári szabályzat szerint a külföldi tanulmányútról hazatérő teológusok kötelező hagyománynak tekintették, hogy alma materük számára könyvet hozzanak. Így a peregrinusok révén került a gyűjteménybe számos, ma már könyvészeti ritkaságnak számító mű, amelyek a Plantin, a Frobenius, a Thanner, a Faber vagy az Elzevir nyomdák műhelyeiből kerültek ki. Tóth Ferenc - a későbbi püspök - gyűjtése és buzdítása alapozta meg a könyvtár 1711 előtti régi magyar könyv-, antikva- és kéziratállományát. Ő kezdte el a kölcsönzők és kölcsönzések szakszerű nyilvántartását is.

A reformkori mozgalmak részeként megalakult a Főiskolai Képzőtársaság, amely szintén rendelkezett könyvtárral. Ennek eredeti katalógusa is ránk maradt. Ez a gyűjtemény főként az ifjúság szépirodalmi és tudományos érdeklődését volt hivatva szolgálni, anyaga később a kollégium könyvtárába olvadt be. A társaságnak és könyvtárának 1841/42-ben Petőfi Sándor és Jókai Mór is tagja volt.

Könyvtárunk az 1848/49-es forradalmat és szabadságharcot követő elnyomást sértetlenül élte át, a károkat inkább a helyváltoztatás, a költözködés okozta, 1857-ben ugyanis az Ókollégiumból a későbbi Nőnevelő épületébe költözött.

A könyvállomány első igazán szakszerű rendezésére Tóth Dániel könyvtárossága alatt (1877-1897) került sor, aki bevezette az úgynevezett müncheni rendszerű lapkatalógust. Az ő munkáját folytatta Borsos István (1897-1918), aki az állományt 32 szakba osztotta be. Ekkor lettek elkülönítve az addig a nyomtatványok közé besorolt kéziratos kötetek, oklevelek és egyéb iratok is. A Kézirattár ma is felbecsülhetetlen értékű anyagokat őriz: állománya a legkülönfélébb forrástípusokat foglalja magában (kollégiumi diktátumok, tanárok jegyzetei és személyi hagyatéka, prédikációs kötetek, a kollégiumi könyvtár legrégebbi katalógusai, jegyzékei és naplói, családi hagyatékok, egyházközségi és egyházmegyei könyvtárakból bekerült kéziratok, stb.). 

A Református Főiskolai Könyvtár állománya 1885-ben a megszűnő Jogakadémia, 1890-ben pedig az ugyancsak megszűnő Tanítóképző könyveivel gyarapodott. A Jókai Kör, a Nőnevelő Intézet és a Tóth Ferenc Önképzőkör könyvtára szintén a mi gyűjteményünkbe olvadt be. 1911-ben a könyvtár állománya 37 ezer kötet volt, 1945-ben 92 ezer, ma körülbelül 130 ezer. A második világháború utolsó hónapjaiban hatalmas veszteségek érték a kollégiumot, melynek nyomait még ma is magán viseli a könyvtár. A Pápai Református Nagykönyvtár 1958 óta a Dunántúli Református Egyházkerület Tudományos Gyűjteményeinek tagintézményeként működik.

Ritka kincseket is őrzünk gyűjteményünkben. Legértékesebb az a 14. századi, kisméretű kódex, amely a német nyelv svájci dialektusában, gót betűkkel írt imádságokat és egyházi naptárt tartalmaz. Könyvtárunkba ifj. Pázmándy Dénes ajándékaként került. Figyelemre méltó nyomtatványunk a Huszár Dávid által Pápán 1577-ben nyomtatott könyv, a Heidelbergi Káté magyar fordítása. Szintén egyedülálló darabja állományunknak Bornemisza Péter: Ördögi kisértetekrül című munkája, mely 1578-ban jelent meg. Ez a kötet azért különleges, mert ebben a formájában ez az egyetlen példány maradt fönn belőle. Ugyancsak nagy becsben tartjuk az 1841-ben alakult Képzőtársaság ún. Érdemkönyvét, amely Petőfi és Jókai kézírását őrizte meg számunkra. Kézirattárunk is számos értékes és egyedi munkát tartalmaz, például itt található XVIII. századi másolatban a kollégium 1585-ös törvénykönyve is.

Gazdag történelmi hagyományainkat azonban nem csak a múlt kizárólagos részének tekintjük, hanem sokkal inkább arra törekszünk, hogy az elmúlt századok kulturális és egyháztörténeti értékei a jelen és a jövő élő alkotóelemei maradjanak. Ezért határoztunk úgy, hogy a könyvtárépítés hagyományait tovább folytatva létrehozzuk a Modern Könyvtárat és Olvasótermet a Történeti Könyvtárral szerves egységben. Ebben az új könyvtárrészben igyekszünk minden szempontból megfelelni a mai olvasói igényeknek, nemcsak a könyvállomány körültekintő gyarapításával, hanem a modern olvasási és kölcsönzési feltételek technikai megteremtésével is. Így ma könyvtárunk minden tekintetben megfelel egy mai nyilvános könyvtártól joggal elvárható színvonalnak. Reméljük, hogy a jövőben még tovább tudjuk fejleszteni szolgáltatásaink körét. Ha úgy dönt, hogy könyvtárunk olvasója kíván lenni, szeretettel várjuk!