A királyi levéltár története a középkorra vezethető vissza. Az oklevelek jogbiztosító jellege miatt szükség volt, hogy a visszakereshetőség érdekében megfelelő módon tárolják őket. Ugyanakkor 12-13. század fordulójáig nincsenek adataink a királyi levéltár létezéséről. Ennek kialakulása összhangban volt a központi írásbeli szerv, a kancellária fejlődésével. Fontos lépcső volt ebben III. Béla 1181. évi oklevele, amelyben elrendelte a királyi udvarban az ügyintézés területén az írásbeliség bevezetését. Az Aranybullát már 7 példányban kellett megőrizni, majd IV. Béla uralkodása alatt a királyi népekre vonatkozó okiratokat a király levéltárában tárolták. Az írásbeliség másik fontos színtere a káptalanokban és konventekben működő ún. hiteleshely volt.
Az Anjou-korban I. Lajos reformjainak köszönhetően a királyi kancellária szervezettebbé vált, pontosan elkülönítették az egyes osztályok hatáskörét. Az udvar Visegrádra kerülésével az uralkodót oklevelei is követték. A ladula v. archivum regni ekkor még nem jelentett komoly mennyiséget. (A ladula arra utalt, hogy az iratokat ládákban őrizték.) Az 1526-os mohácsi csatavesztést követően a királyi levéltárat is menekíteni kellett. Egy részét ládákba rakták, és hajókon akarták Pozsonyba menekíteni. Az esztergomi várkapitány azonban megtámadta a hajókat, és néhányat el is süllyesztett. A királyi levéltár mégsem pusztult el, mert Habsburg Mária, II. Lajos özvegye révén számos oklevél került Spanyolországba, illetve Németalföldre, sőt Szapolyai János magyar király is "szemezgetett" a dokumentumok közül.
A hódoltság korában az iratok jelentős része szétszóródott. 1550-ben a rendek kérték, hogy a birtokviszonyokra vonatkozó okleveleket adják át a győri püspöknek. Okleveleket őriztek a pozsonyi prépost házában, Ferdinánd is több ládányit szállíttatott Innsbruckba. A törökök felemásan viszonyultak a magyar levéltári anyaghoz. A hadi események során rengeteg hiteleshelyet pusztítottak el irataikkal együtt. Ugyanakkor 1602-ben egy császári követjárás arról számolt be, hogy a királyi várban a törökök sértetlenül őrzik a leveleket. (Más kérdés, hogy 1686-ban a palota teljesen kiégett.)
A 17. század elején változás figyelhető meg: megjelent a szervezettség igénye. 1608-ban arról határoztak, hogy Mátyás főhercegnek át kell adni az ország jelvényeit és okleveleit. Illésházy István nádor elkezdte a fontos dokumentumok gyűjtését. Egy 1613-as törvényi rendelkezés értelmében a nádor özvegyénél lévő eredeti okleveleket át kell adni a rendeknek, akik lajstromozzák azokat, és átadják az utódnak. Az Archivum Regni kifejezést ekkortól a rendek levéltáraként értelmezték. A Wesselényi-összeesküvés következtében sokáig nem volt nádora az országnak, és a felkelés felgöngyölítésekor a Habsburgok lefoglalták a Nádasdy-levéltárat is.
Buda visszavívása és a politikai viszonyok konszolidálása után 1689-ben a rendek már szorgalmazták az országos levéltár felállítását. A birtokviszonyok rendezése érdekében ugyanis szükség lett volna a hiteles dokumentumok összegyűjtésére. Elképzeltek egy olyan gyűjteményt is, amelyben a nemesi családok helyezték volna el okleveleiket. A levéltárat ott kívánták felállítani, ahol az országgyűlés működött. A javaslatok megvalósítására végül a Rákóczi-szabadságharc miatt nem került sor.
A 18. század első évtizedeiben az országgyűlések rendre foglalkoztak a levéltár ügyével. Ebből a csendes küzdelemből a nemesség vette ki a részét, mivel feltett szándékuk volt, hogy a gazdasági és politikai hatalom alapjait rögzítő okleveleket az archívumok őrizzék. 1723-ban döntöttek arról, hogy Pozsonyban, az Ország Házában kell az Archivum Regnit felállítani. Hármas gyűjtőkört határoztak meg: az egész országra vonatkozó országgyűlési, közigazgatási és jogszolgáltatási iratok; a nagybírák működése során keletkezett dokumentumok hiteles másolatai (évenkénti leadással); a magánosok által letett iratok. Mindezek ellenére az intézmény létrehozás akadályokba ütközött. 1741-ben a karok és rendek kérték Mária Teréziát, hogy hajtsa végre az 1723-as törvényben megfogalmazott határozatot.
Fordulatot jelentett, hogy 1751-ben Batthyány Lajos lett az ország nádora, ugyanis az ő családjának levéltára volt a korszakban az egyik legrendezettebb. Nem meglepő hát, hogy az 1752-es főispáni utasítás tartalmazta minden törvénykezési irat beszolgáltatását (ha pedig esetleg változás állna be valamelyik tisztségben, akkor a náluk lévő ügyiratokat le kell adniuk). Két évvel később egy tervezet is született, amely konkrét elképzeléseket tartalmazott. Eszerint az ország házában (Domus Regnicolaris), annak alsó szintjén alkalmas helyiségeket kell kijelölni az iratok őrzésére. A megfelelő személyzetet a levéltáros (conservator archivi) jelentené. A javaslatokat egy Batthyány által összehívott bizottság vitatta meg.
1756. március 1-jén került sor Csintó Imre kinevezésére. A jelölt jogi és közigazgatási ismeretekkel rendelkezett, tapasztalatait egy ügyvéd mellett dolgozva sajátította el. A hivatalos utasítás részletes ügymenetet is tartalmazott, mely szerint az iratokat a nádori illetve az Archivum Regni megfelelő rekeszeibe kellett szétválogatnia. Ezen kívül a nádor utasítása nélkül semmiféle iratot nem adhatott ki. A kereshetőség végett indexet kellett készítenie az Archivum Regni egészéről. A levéltár kulcsait hűségesen kellett őriznie. Munkájáról havi jelentésben kellett beszámolnia.
A levéltár a 18. században egyre intenzívebb iratgyűjtést folytatott. 1784-ben az intézményt Pozsonyból Budára költöztették, azonban az egykor a budai klarisszák tulajdonába tartozó épület szűkösnek bizonyult a jelentős iratanyag tárolására.
A magyar levéltárügy következő nagy fellendülése az 1848-1849-es szabadságharc leverése után következett be. 1854-ben Toldy Ferenc javasolta a Magyar Történelmi Tár megalakulását. Ennek érdekében hatalmas anyaggyűjtés kezdődött. A Magyar Történelmi Társulat 1867-es létrejöttével felmerült az Országos Levéltár létrehozásának igénye is. A belügyminisztérium támogatta az elképzeléseket, de ugyanakkor számos kérdésre (Honnan lesz rá pénz? Hol lesz az épület?) nem született válasz. 1874-ben a történész Pauler Gyulát nevezték ki országos levéltárnokká. Az iratanyagban vegyes rendezést képzelt el: egyrészt kronologikus, másrészt regionális szempontok alapján.
Szerette volna megoldani azt is, hogy az iratokat a belügyminisztériumból egy nagyobb épületbe költöztessék. A terveket 1898-ban készítette el Pecz Samu, akinek ez volt az utolsó jelentős munkája. Személyesen figyelte meg Európa levéltárait, hogy minél tökéletesebb művet alkosson. Ügyelt a raktárhelyiségek áttekinthetőségére és tűzbiztosságára. A külső megjelenítésnél középkori elemeket tartalmazott. A munkálatok végül 1913-ban kezdődtek el, a belső díszítések és a berendezések kialakítását 11 évvel később fejezték be. Az épület és a benne tárolt iratanyag mind a II. világháborúban, mind 1956-ban súlyos károkat szenvedett.
