Nagyszombat városában végezte a teológiát, 1885-ben szentelték pappá. 1893-ban és 1897-ben a Magyar Történeti Intézet tagjaként Rómában és más olasz városokban végzett történeti kutatásokat. 1885-től Rimócon, 1887-től Ipolyságon, 1888-tól Esztergomban volt segédlelkész. 1893-1906 között a Magyar Nemzeti Múzeum Országos Széchényi Könyvtárának őreként, 1902-től igazgató őreként dolgozott. 1906-ban a hiteleshelyek levéltárainak országos főfelügyelőjévé nevezték ki. 1911-től a Magyar Nemzeti Múzeum tiszteletbeli osztályigazgatója. 1902-től jáki apát, 1907-től pápai prelátus, 1911-től nagyváradi kanonok. Tudományos munkássága ekkor félbeszakadt, ezután a káptalan gazdasági ügyeivel foglalkozott. 1902-11-ben a Magyar Könyvszemle szerkesztését látta el. A trianoni békeszerződés után visszatért Budapestre, továbbra is a magyar területen maradt káptalani birtokok kezelésének gondjaival foglalkozott.
Fő kutatási területét a magyar egyháztörténet jelentette. Már esztergomi papnövendék korában kezdte meg a Magyar Sion lapjain ilyen irányú irodalmi munkásságát. Esztergomi káplánsága idejére esett első jelentékenyebb dolgozata: Oláh Miklós életrajza. A Katholikus Szemlében megjelent munkát a Szent István-társulat Fraknói-díjjal jutalmazta. Ezt követte ugyanott Az esztergomi érsekség pizetum-joga (1889), majd, mint önálló munka: A magyar katolikus alsópapság végrendelkezési joga. Irodalmi működésével hamar felhívta a szakemberek figyelmét, az Országos Széchényi Könyvtárban való állását magának a Széchenyi családnak köszönhette. Éveken keresztül egymást érték - részint folyóiratokban, részint külön kiadványokban - kisebb-nagyobb munkái. Összeállította az esztergomi kanonokok archontológiáját, foglalkozott a veszprémi püspök királyné-koronázásának jogával, elemezte a kegyúri jog magyarországi jelenlétét. A Magyar Nemzeti Múzeum fennállásának 100-ik évfordulója alkalmával, 1902-ben, az Országos Széchenyi-könyvtár történetének megírására kapott megbízást; az első kötet 1905-ben meg is jelent, de a munka befejezetlen maradt. 1902-től 1912-ig szerkesztője volt a Magyar Könyvszemlének. Karácsonyi Jánossal és Lukcsics Józseffel együtt szerkesztette az Egyháztörténelmi emlékek a magyarországi hitújítás korából címmel a Szent István-társulat által kiadott oklevéltár IV-V. köteteit.
A Magyar Tudományos Akadémia 1903. május 8-án levelező, 1924. május 8-án rendes tagjává választotta. A magán kegyúri jog hazánkban a középkorban című székfoglaló előadása 1905. március 6-án, A Széchényi Országos Könyvtár történetéből című 1925. február 16-án hangzott el. 1926-től ő lett a II. osztály elnöke. A Szent István Akadémia 1916-ban emelte rendes tagjai közé.
Fő művei: Oláh Miklós. Katholikus Szemle, 1888.; Az esztergomi érsekség pizetum-joga. Bp., 1889.; A magyar katolikus alsó papság végrendelkezési joga. Esztergom, 1890.; Római levelek. Esztergom, 1893.; Szent Lőrincz-templom történetéhez. Esztergomi lapok, 1894.; A magyar katolikus főpapság végrendelkezési jogának története. Bp., 1896.; Az olasz állami könyvtárak. Bp., 1898.; Magyar ferenczrendiek a XVI. század első felében. Századok, 1898.; Esztergomi kanonokok 1100-1900. Esztergom, 1901.; Visitatio Capituli E. M. Strigoniensis A. 1397. Esztergom, 1901.; A veszprémi püspökök királynékoronázási jogának története. Bp., 1901.; Regesták a római és a pármai levéltárakból. Bp., 1905.; A Magyar Nemzeti Múzeum Széchényi Országos Könyvtára 1802-1902. I. Bp., 1905.; A magán kegyúri jog hazánkban a középkorban. Bp., 1906.; A párbér jogi természetéhez. Bp., 1908.; Az Akadémia és a Nemzeti Múzeum. Bp., 1910.; Emlékbeszéd Knauz Nándor fölött. Bp., 1911.; Egyháztörténeti emlékek a magyarországi hitújítás korából. Társszerkesztők: Karácsonyi János, Lukcsics József. IV-V. Bp., 1912.; Bibliotheca Corviniana. Bp., 1927.
Róla szóló irodalom: Dőry Ferenc: Kollányi Ferenc. Századok, 1933.
