Id. Jerney János és Kiss Borbála gyermekeként nemesi családban született a család Szeged melletti, dorozsmai birtokán. Középiskolai tanulmányait előbb Dorozsmán, majd 1810?1814-ben Szegeden végezte. 1816?1817-ben a pesti egyetemen hallgatott bölcsészetet, majd 1818?1819-ben a pozsonyi jogakadémián tanult kereskedelmi, magán- és büntetőjogot, valamint államtudományt. 1819-től joggyakornokként dolgozott Heves vármegyében, 1820-tól ítélőtáblai jegyző volt, ügyvédi oklevelét végül 1821 decemberében szerezte meg. 1822-ben ? miután sikertelenül folyamadott a Jászkun Kerület alügyészi tisztségéért ?beiratkozott a bécsi egyetemre, ahol betekintést nyert a keleti nyelvekbe és irodalmakba. 1825-ben végül kinevezték a Jászkun Kerület tiszteletbeli alügyészévé, ezért Kiskunfélegyházára költözött.
1837-ben Pesten telepedett le. Támogatókat keresett régóta dédelgetett nagyszabású tervéhez, melyben célul tűzte ki, hogy a magyarság ősi vándorlása során útba ejtett helyeket felkeresi. Ehhez a nemzetközi szakirodalmat is áttanulmányozta. Végül 1844 áprilisában indult útnak a magyar őshazák, Levédia és Etelköz felkutatására. Egy évig tartó útja során bejárta Besszarábiát, a Fekete- és az Azovi-tenger mellékét, a Krím-félszigetet és a Don mellékét. A Kaukázus vidékére a cserkesz háború miatt nem tudott eljutni. Útban hazafelé pedig hosszabb vizsgálódást végzett a moldvai csángók között. 1845 áprilisában tért haza, s előbb dorozsmai birtokán, majd annak eladását követően Pesten dolgozta fel úti jegyzeteit. 1848?1849-ben az Országos Statisztikai Hivatal tisztviselője volt. Ezt követően visszavonultan élt, 1854-ben támadt szembetegsége kutatómunkájától is elvonta, s végül agyvérzésben halt meg.
A magyarság őstörténetének a régmúlt homályába vesző kérdései már pesti és pozsonyi diákévei alatt foglalkoztatták. Tudományos módszereire és múltszemléletére a legnagyobb hatással Horvát István munkássága, majd az 1830-as években jó barátjává lett Horváth Mihállyal folytatott eszmecserék voltak. Kutatásai középpontjában elsősorban a magyarok, valamint a Kárpát-medence részben törökségi eredetű vagy izmaelita népeinek ? kunok, besenyők, palócok stb. ? etnogenezise és nyelve, valamint a köztük feltárható kapcsolódási pontok álltak. Jól mutatja elszántságát, hogy a Marczibányi-alapítvány 1825. évi pályázatára beadott, a kun és az ómagyar nyelv közötti rokonságot taglaló, Vizsgálódások a régi kún nemzet nyelvéről című munkájával első díjat nyert. Eleinte könyvtári és levéltári kutatásokat végzett a Jászkun Kerületben, Bécsben és Pesten, az 1830-as évektől Közép-Ázsiára és a keleti népekre vonatkozó, kiterjedt történeti és nyelvészeti tanulmányokat folytatott a nemzetközi ? főleg a német és francia ? szakirodalom alapján.
Végül 1851-ben két kötetben megjelent úti beszámolójában tette közzé kutatási eredményeit. Egyfelől a magyarokat említő korai ? többnyire bizánci ? forrásokban előforduló helynevek és az általa bejárt területek földrajzi neveinek egyezése alapján megállapította Levédia (Donyec-medence) és Etelköz (Moldva) feltételezhető helyét. Az utókor értékelése szerint az egyes középkori bizánci és recens orosz földrajzi nevek nyelvtörténeti egyeztetése ugyan megalapozott, de ez történeti szempontból Levédia földrajzi azonosítását nem teszi bizonyítottá. A későbbi kutatások arra is rávilágítottak, hogy Etelköz valószínűsíthető helye Moldvától jóval keletebbre, nagyjából a Krím északi előterében, a Dnyeper folyásánál, azaz nem Moldvában található. Jerney mindemellett több száz további 'magyar eredetű' helynevet írt le utazásai helyszínéről, a moldvai csángókat pedig magyarokkal rokon honfoglalás kori csoportok leszármazottainak tartotta. Végső következtetésként megállapította a magyar, illetve a besenyő, kazár, kun, palóc stb. népek rokonságát és egykori egynyelvűségét, emellett a magyarság párthus származása mellett tört lándzsát. Utolsó éveit diplomatikai és pecséttani kutatásainak szentelte: magángyűjteménye több mint négyezer régi oklevélből állt, és ezek nyelv-, művelődés- és egyháztörténeti szempontú elemzésével foglalkozott. 25 kötetbe szerkesztett kéziratos gyűjteményéről Thaly Kálmán készített jegyzéket. Az általa másolt dokumentumok különösen a XVI. századra tartalmaznak fontos információkat.
A Magyar Tudományos Akadémia 1837. szeptember 7-én levelező, 1838. szeptember 7-én rendes taggá választotta. A magyarországi besenyőkről című székfoglaló előadása 1838. november 10-én hangzott el.
Fő művei: Vizsgálódások a régi kun nemzet nyelvéről. Pest, 1825.; Gondolatok a jászkürtről, ahhoz hasonló több kürtök ösmertetésével, Szeged, 1827.; Világosítás Asiában a Kaukaszus hegyén lakozó avarok és kunságiak nyelvének magyartalansága eránt. Szeged 1829.; A magyarhoni besenyőkről. Pest 1839.; A magyarországi izmjaelitákról, mint volgai bulgárok és magyar nyelvű népfelekezetről, Buda, 1845.; Jerney János keleti utazása a magyarok őshelyeinek kinyomozása végett 1844 és 1845. I-II. Pest, 1851.; A palócz nemzet és palócz krónika, orosz és lengyel évkönyvek nyomán. Pest, 1854.; Magyar nyelvkincsek Árpádék korszakából. I-II. Pest, 1854.; A magyarországi káptalanok és conventek mint hitelmes és hiteles helyek története. Pest, 1855.
Róla szóló irodalom: Thaly Kálmán: A Jerney-féle kéziratgyűjtemény. Századok, 1877.; Gyárfás István: Jerney János emlékezete. Bp., 1883.; Péter László: Jerney János. Szeged, 1988.
