Az 1792-ben grófi rangra emelt, székely eredetű Kún család sarjaként látta meg a napvilágot, édesapja Kuun László, édesanyja Gyulay Konstancia grófnő volt. Az alapfokú oktatást a szülői házban kapta, majd Szőnyi Pál intézetében tanult. 1856-58-ban a pesti egyetem klasszika-filológiát, régészetet, numizmatikát és történelmet hallgatott, közben autodidakta módon a keleti nyelvekkel ismerkedett. 1858-59-ben a göttingeni egyetemen tanult, bölcsészdoktori oklevelet szerzett. Évente felkereste Észak-Olaszország híres könyvtárait, de Németország, Franciaország, Hollandia és Svájc könyvtáraiban is lelkesen kutatott, beutazta a balkáni országokat is. Megtanult németül, franciául, angolul, olaszul, románul és görögül, írt és olvasott héberül, törökül, arabul, perzsául és latinul.
Főként a honfoglaló magyarságra vonatkozó keleti forrásokkal, valamint sémi összehasonlító nyelvészettel, a keleti irodalmak fejlődésével, az összehasonlító vallástörténet kérdéseivel foglalkozott. Több művében Erdély történetének egyes problémáit vizsgálta. Kutatásai során a velencei Szent Márk-templom könyvtárában talált rá az 1303-ból származó kun kódexre, amelyet több mint hatévi munka eredményeként, latin nyelvű bevezető tanulmánnyal és jegyzetekkel ellátva tett közzé. Ez a kódex őrizte meg a kihalt kun nyelv szókincsét, nyelvtanát. Figyelme ezután a magyarok vándorlásának és honfoglalásának keleti szövegekben megőrzött emlékei felé fordult. Forrásai alapján az Altáj vidékéről származtatta a magyarokat, s a törökök rokonának tartotta. A millennium tiszteletére összeállította A magyar honfoglalás kútfői című díszkiadvány keleti forrásokat bemutató fejezetét. Munkásságában döntő fordulatot hozott, amikor megörökölte a Gyulaiak marosnémeti kastélyét, a híres római kori lapidáriumot tartalmazó parkkal. Bővítette a kastély levéltárát és kőtárát, több időt szentelt Erdély, azon belül Hunyad vármegye múltjának. Ezen törekvését világosan jelezte, hogy ő lett az 1880-ban megalakult Hunyadmegyei Történelmi és Régészeti Társaság elnöke. Korának egyik legünnepeltebb erdélyi tudósa volt. Néprajzi dolgozatait az Arménia, az Erdély és az Etnographia közölte.
A Magyar Tudományos Akadémia 1867. január 20-án levelező, 1883. május 17-én tiszteleti, 1904. május 13-án igazgató tagjává választotta. A gyökök elméletéről című székfoglaló előadása 1867. június 24-én hangzott el. 1901. május 10. és 1904.május 13. között az akadémia másodelnöke volt. 1894-ben a kolozsvári, 1895-ben a leideni és 1896-ban budapesti egyetem avatta tiszteletbeli doktorává. A Magyar Néprajzi Társaság örökös tiszteletbeli elnökévé nevezte ki. A Magyar Történelmi Társulat, a Magyar Heraldikai és Genealógiai Társulat, a Budapesti Philologiai Társaság, a Magyar Földrajzi Társaság tiszteleti tagja. A Deutsche Morgenländische Gesellschaft rendes, az Ateneo di Science e Lettere di Bassano tiszteleti, a helsingforsi (helsinki) Finnugor Társaság tiszteleti tagja volt. Ezek mellett elnyerte a valóságos belső titkos tanácsos címet, illetve a főrendiház tagjai közé is bekerült. Elnyerte az olasz koronarend középkeresztjét. 1889 és 1896 között ellátta az Erdélyi Református Egyházkerület főgondnokságát. Könyv- és levéltárát az Erdélyi Múzeum-Egyletre, lapidáriumát a Hunyadmegyei Történelmi és Régészeti Társulat dévai múzeumára hagyta. Az 1858-ban a MTA-nak adományozott XVII. századi erdélyi kódexet Kuun-kódexnek neveztek el.
Fő művei: A gyökök elméletéről. Nyelvtudományi Közlemények, 1867.; A sémi nyelvgyökerekről. 1867.; A sémi magánhangzókról és megjelölésök módjairól. Pest, 1872.; Adalékok Krím történetéhez. Bp., 1873.; Gróf Gyulai Lajos naplótöredékéből (1815-1834). Kiad. Bp., 1875.; Codex Cumanicus. Kiad., jegyz. Bp., 1880.; Additamentorum ad Codicem Cumanicum nova series. Bp., 1883.; A kunok nyelvéről és nemzetiségéről. Bp., 1885.; Quinquaginta aenigmata Cumanica. Bp., 1888.; Az imádság történelme. Kolozsvár, 1889.; Ujabb adatok a kún Petrarca codexhez. Bp., 1892.; Relationum Hungarorum cum Oriente gentibusque orientalis originis historia antiquissima. I-II. Kolozsvár, 1892-95.; Keleti kútfők. In: A magyar honfoglalás kútfői. Szerk.: Pauler Gyula - Szilágyi Sándor. Bp., 1898., reprint kiad. 1995.; Ismereteink Tibetről. Bp., 1903.; Fajunk lebediai és etelközi művelődése. Kolozsvár, 1903.; Gardezi kézirati munkájának a törökökről, tibetiekről, sínaiakról írt fejezetei. Kiad., ford., jegyz. Bp., 1903.
Róla szóló irodalom: Szilágyi Sándor: Gróf Kuun Géza marosnémeti levéltára. Bp., 1887.; Bartók György: Az igazak örökké élnek. Dr. Gróf Kuun Géza koporsója fölött. Kolozsvár, 1905.; Szádeczky Lajos: Gr. Kuun Géza emlékezete. Erdélyi Múzeum, 1905.; Krenner Miklós - Sólyom-Fekete Margit: Osdolai Dr. Gróf Kuun Géza emlékezete . Déva, 1905.; Goldziher Ignác: Emlékbeszéd gróf Kuun Géza tiszteleti és igazgató tag felett. Bp., 1907.; Kuun Gézáné: Maros-Németiben. Emlékezés gróf Kuun Géza otthonára. Kolozsvár, 1907.; Nagy Károly: Osdolai gróf Kuun Géza emlékezete. Kolozsvár, 1908.; Nagy Sándor: Gróf Kuun Géza élete és munkássága. Szászváros, 1920.; Róna-Tas András: Kuun Géza Keletkutatás, 1989.; Gaal György: Kuun Géza. In: Magyar múzeumi arcképcsarnok. Főszerk.: Bodó Sándor ? Viga Gyula, Bp., 2002.