Szerelemgyerekként jött a világra Aradon. Tizenhét éves cselédlány édesanyja leánykori neve után Spannenbergként anyakönyvezték. Az ötvenes éveiben járó nyugdíjas vasúti tisztviselő édesapja 1905-ben házasodott össze anyjával és vette fiát a nevére, ekkortól viselte a Jermann Pál Gusztáv nevet, amelyet színészként változtatott Jávorra.
Apja halála után anyja, aki három gyerekkel maradt özvegyen, gyümölcsüzletet nyitott, hogy fiait taníttatni tudja. Pali, akit anyja vasutasnak szánt, tanulmányait Aradon kezdte, de az iskola helyett szívesebben járt az Uránia és az Apolló filmszínházba, ahol a dán Nordisk Film némafilmjeit nézte.
Az első világháború alatt kiszökött a frontra, ahol kilenc hónapig hordta a postát a bakáknak. Anyja kérésére a csendőrök vitték haza.
Visszatérve Aradra a mozik mellett a teátrumokat is egyre gyakrabban látogatta. 1918-ban az Aradi Hírlapnál lett újságírógyakornok, de 1919-ben kiutasíttatta magát Romániából, hogy ingyen vasúti jegyet kapjon az államtól. Terve az volt, hogy Dániába megy filmszínésznek, de a magyar hatóságok jegye állítólagos érvénytelensége miatt Kőbányán leszállították a vonatról, így Budapesten ragadt pénz és ismerős nélkül. Hosszú ideig a Nyugati vagy éppen a Keleti pályaudvaron éjszakázott.
Az Országos Színművészeti Akadémiára nyert felvételt Pethes Imrénél. Már az első hónapban Egressy-ösztöndíjban részesült, fél évvel később mégis kicsapták.
Tanulmányait az Országos Színészegyesület Színészképző Iskolájában folytatta, esténként a Várszínházban statisztált. 1922-ben diplomázott, nyári vizsgaelőadása után Csortos Gyula ajánlására kapott szerződést az akkoriban szerveződő Renaissance Színháztól. December 7-én, a színház nyitóelőadásán Leonyid Andrejev Aki a pofonokat kapja című darabjában Polly, a zenebohóc szerepében lépett először színpadra hivatásos színészként.
1924-től vidéken folytatta pályafutását, Székesfehérvárra, a Vörösmarty Színházhoz szerződött. Faragó Sándor társulatával Székesfehérvár mellett Esztergomban, Veszprémben és Kaposváron játszott. Az Országos Színészegyesület 1927 májusában botrányos viselkedése miatt kizárta tagjai sorából, így elvesztette játékjogát. Beállt Miklósy Imre kispesti zugszíntársulatába, innen hívta Tarnay Ernő, a Szegedi Városi Színház új direktora Szegedre. 1928 tavaszán Faludi Jenő, a fővárosi Magyar Színház igazgatója szerződtette, de szerepeket vállalt a prózát játszó Fővárosi Operett Színházban és a Belvárosi Színházban is. 1930 júliusában pedig átszerződött a Vígszínházhoz. 1935-től 1944-ig a Nemzeti Színház tagja volt.
Kezdetben szerelmes hősszerepekben és népi alakokkal aratott sikert: Kukorica Jancsit alakította a János vitézben, Noszty Ferit a Mikszáth regénye alapján készült színműben, ifjabb Nagy Istvánt Bródy A tanítónő című darabjában. Később felismerték drámai tehetségét is, s ezt modern drámákban és Shakespeare-szerepekben kamatoztathatta. Kiemelkedő alakítása volt Rank doktor a Nórában, valamint a Peer Gynt címszerepe.
Az igazán nagy sikereket a film hozta meg a számára.
1929-ben, az utólag hangosított Csak egy kislány van a világon című némafilmben állt először kamera elé, s az ezután következő tizenöt évben ő lett a magyar filmek első számú férfisztárja, az ügyeletes szívtipró. Több mint hatvan filmjében aratott sikerét remek megjelenésének és a jellegzetes, kissé felületesen, de elegánsan megrajzolt alakjainak köszönhette. Szerepkörét a kor ízlésének megfelelő karaktere határozta meg, különösen hitelesen alakított dzsentrifigurákat. Olyan filmsikerekben szerepelt, mint a Hyppolit, a lakáj, a Nem élhetek muzsikaszó nélkül, a Nászút féláron, a Halálos tavasz, az Uz Bence, a Gábor diák, a Dankó Pista vagy a Valamit visz a víz.
A negyvenes évek elején külföldön is filmezett.
Egy ausztriai forgatáson letartóztatták zsidó származású feleségét, Jávor emiatt is egyre inkább szembekerült a Nemzeti Színház jobboldali vezetésével. Soha nem titkolta, hogy megveti a hungaristákat, a zsidótörvények életbe lépése után sok állás nélküli kollégájának szerzett alkalmi munkát. Magyarország 1944. március 19-i német megszállása után előbb a színházból, majd a filmgyárból is kitiltották, és az október 15-i nyilas hatalomátvétel után letartóztatták, Sopronkőhidára, majd a németországi Pfarrkirchenbe került, és csak 1945 nyarán térhetett haza.
A Nemzeti Színházban az új vezető, Major Tamás nem engedte színpadra, így került Jávor a Művész Színházhoz és a Magyar Színházhoz, ahol elhalmozták szerepekkel.
1946-ban Amerikába ment, ahol Sárossy Szüle Mihály társulatával járta a magyarlakta településeket, és kisebb filmszerepeket játszott Hollywoodban. A komoly siker azonban – részben nyelvtudásának hiányossága miatt – elmaradt, s Jávor egy izraeli vendégszereplés után 1957-ben hazatért Magyarországra. A Petőfi és a Jókai Színházban, valamint a Kamara Varietében lépett fel, 1959-ben pedig a Nemzeti Színházhoz szerződött, de elhatalmasodó betegsége miatt már nem léphetett színpadra. Budapesten hunyt el 1959. augusztus 14-én.
A legenda szerint, ahogy a filmvásznon és életében is gyakran tette, utoljára még a kórházban muzsikus cigányokkal mulatott.
Az életének utolsó hónapjairól szóló, Kék-lila nyár című színművet 2010-ben mutatták be a Szegedi Szabadtéri Játékokon, és szintén 2010-ben került a mozikba a Mindszenty – Szeretlek, Faust című játékfilm, amely Mindszenty József püspök és Jávor Pál találkozását mutatja be 1944-ben a sopronkőhidai fegyházban. 2016-ban a Spinoza Fesztiválon tartották az életéről szóló, Jávor: a fenegyerek, a színművész és az ember című zenés játék premierjét.
Nyitókép: Jávor Pál 1940-ben. Fotó forrása: Fortepan