Békési református lelkész családban született, gimnáziumi tanulmányait Debrecenben, illetve Késmárkon, az evangélikus líceumban végezte. 1875 őszén a budapesti tudományegyetem bölcsészkarára iratkozott be, 1879-ben történelem-földrajz szakos tanári, 1880-ban bölcsészdoktori oklevelet szerzett. Tanárai közül Salamon Ferenc volt rá a legnagyobb hatással. 1881-ben az Országos Széchényi Könyvtárban napidíjas, 1881-től a Magyar Országos Levéltár fizetés nélküli gyakornoka lett. Csánki az akkoriban létrejövő diplomatikai osztályon kapott feladatot. 1881-82-ben fizetéses gyakornok volt. 1882-ben a Magyar Történelmi Társulat pályázatán első díjat nyert 'Első Mátyás udvara' című dolgozatával. 1882 és 1886- között levéltári tiszt, 1886-tól fogalmazó. 1893. március 31-én országos levéltárnokká nevezték ki. 1912-13-ban a levéltár megbízott vezetője lett. 1913-19-ben, mint országos főlevéltárnok, miniszteri osztálytanácsosi címmel a levéltár vezetőjeként tevékenykedett. 1919-ben a Tanácsköztársaság idején nyugdíjazták; 1919. augusztustól főigazgató, helyettes államtitkári, 1924-től államtitkári címmel. 1932-ben nyugdíjazták.
A Magyar Országos Levéltárban akkoriban áldatlan állapotok uralkodtak. Nehézkes volt a levéltárosok kinevezése, a szobák sötétek és nyirkosak voltak, a túlzsúfolt raktárak állandó tűzveszélyt jelentettek. Csánki 1905-ben és 1907-ben Ausztriában, Német- és Olaszországban tanulmányozta a levéltárak építését és berendezését, 1911-12-ben kezdeményezte az országos levéltár új épületének megépítését. 1914-től vezetésével folyt az építkezés, majd 1918-tól a levéltár berendezése és 1923-ban megnyitása. Megszervezte a levéltár diplomatikai osztályát. 1912-től Budapest székesfőváros megbízásából vezette a főváros történetére vonatkozó középkori okleveles anyaggyűjtést.
Az I. világháború után jelentős szerepet játszott a tudománypolitikában. Sokat köszönhetett Klebelsberg Kunónak, akivel 1916 novemberében kötött barátságot. Klebelsberg hatására a háború miatt elhúzódó építkezéseket sikerült befejezni. A miniszter támogatta Csánki azon elképzeléseit is, melyek szerint a Magyar Országos Levéltárat tudományos intézetté akarta tenni. Amikor 1922-ben létrejött az Országos Magyar Gyűjteményegyetem Csánki feladata volt az új szervezet ügyvitelének a megalapozása. Nehéz helyzetbe került, mivel a nem értett egyet a törvény minden rendelkezéseivel. Nevéhez fűződik a Levéltári Közlemények elindítása is, melynek haláláig főszerkesztője volt. 1926-tól a Magyar Királyi Országos Levéltár Kiadványai című sorozat szerkesztését is magára vállalta.
Kutatóként Magyarország történeti földrajzával foglalkozott. Ezt a munkát még a levéltárba való bekerülésekor vállalta magára, célul tűzte ki, hogy megírja a Hunyadi-kor topográfiáját. Aprólékos munkával gyűjtötte össze az adatokat, feltérképezte a korszak birtokviszonyait. Kezdetben inkább a gyorsaság játszotta a meghatározó szerepet, azonban később, a minőségi munkának köszönhetően, óriási mennyiségű információt szedett össze. Mindez jól tetten érhető az V. kötetben, amelyben Hunyad, Kolozs, Torda és Küküllő megyék anyagát közölte. Csánki nem tudta befejezni a nagy vállalkozást, a IV. kötetet Fekete Nagy Antal állította össze 1941-ben.
A tudományos elismerés szintjén minden elért, amit csak lehetett. A Magyar Tudományos Akadémia 1891. május 8-án levelező, 1900. május 4-én rendes taggá választotta. Székfoglalóit - Kőrösmegye a 15. században ? címmel, 1892. április 4-én, illetve Mátyás király mint városépítő címmel, 1904. január 11-én tartotta meg. Akadémiai pályafutása tovább emelkedett. 1919. október 22-től az Első Osztály elnöke volt. 1925. május 7-én igazgató, 1931. május 15. és 1933. április 29. között másodelnök volt. 1908-tól a Magyar Néprajzi Társulat alelnökévé, 1917-től ügyvezető alelnökévé és tiszteleti tagjává választották. 1909-32-ben a Magyar Történelmi Társulat ügyvezető első alelnöke, 1933-tól tiszteleti tagja volt. Betöltötte a Magyar Földrajzi Társulat alelnöki és tiszteleti tagságát is. 1928-tól a Lengyel Tudományos Akadémia külső rendes tagja lett. Tudományos elismertségét jelzi, hogy 1901-ben az akadémia nagyjutalmában, 1930-ban Corvin-koszorúban részesült. 1927-32-ben a felsőház tagja volt.
Fő művei: Hazánk kereskedelmi viszonyai I. Lajos korában. Bp., 1880.; I. Mátyás udvara Bp., 1884.; Rajzok Mátyás király korából. Bp., 1887.; 2. kiad. Bp., 1903.; Magyarország történelmi földrajza a Hunyadiak korában. I-III., V. Bp., 1890-1913; reprint kiad. 1985.; Árpád és az Árpádok. Szerkesztés. Bp., 1907.; A nemzeti szellemről a magyar történelemben. Századok, 1911.; Az új magyar és úgynevezett közös címerekről .Bp., 1916.; Bars vármegye középkori várai. In: Emlékkönyv gróf Klebelsberg Kuno negyedszázados kulturpolitikai működésének emlékére születésének ötvenedik évfordulóján. Bp., 1925.; Budapest történetének okleveles emlékei. Kiegészítette, kiadta: Gárdonyi Albert. Bp., 1936.
Róla szóló irodalom: Domanovszky Sándor: Csánki Dezső. Századok, 1933.; Dőry Ferenc: Dr. Csánki Dezső. Levéltári Közlemények, 1933.; Csánki Dezső igazgató és rendes tag emlékezete. Pápa, 1933. Hóman Bálint: Csánki Dezső. In: Hóman Bálint: Történetírás és forráskritika. Bp., 1938.; Ember Győző: Csánki Dezső emlékezete. Békési Élet, 1974.; Sashegyi Oszkár: Csánki Dezső. Egy tudós életpályája a polgári kori Magyarországon. Békési Élet, 1982.
