Pedagóguscsaládba született a közép-franciaországi Montboudif faluban, 1911. július 5-én. Felsőfokú tanulmányait a legrangosabb párizsi intézményekben folytatta, ekkor kötött barátságot Léopold-Sédar Senghorral, aki 1960–1980 között a Szenegáli Köztársaság első államfője volt. 1934-ben évfolyama legjobbjaként szerzett irodalomtanári diplomát, ezt követően Marseille-ben, majd Párizsban tanított. 1935-ben megnősült, de gyermeke nem született; feleségével örökbe fogadott fiuk biológusprofesszor, 1989 és 1999 között európai parlamenti képviselő, 2004 és 2007 között pedig az Európai Szabadalmi Hivatal elnöke volt.
A második világháború alatt csatlakozott az ellenálláshoz. Kapcsolatba került Charles de Gaulle tábornokkal, akivel barátságot is kötött; a De Gaulle vezette átmeneti kormányban a miniszterelnök személyes tanácsadója volt. A tábornok 1946-os átmeneti visszavonulását követően a mindenkori francia államfő tanácsadó testülete, az Államtanács tagja lett, ugyanakkor megmaradt szoros és bizalmas viszonya a második világháború hősével, aki fontolgatta a visszatérést a politikába. Pompidou 1948 és 1953 között De Gaulle személyi titkárságának vezetője, majd 1958-ig a Rothschild bankház egyik igazgatója volt.
Az 1950-es évek második felére a Negyedik Köztársaság válságba került: a kormányok pár hónap után megbuktak, a gyarmatok függetlenséget követeltek, különösen a véres és kilátástalan algériai háború helyezett nagy nyomást a kormányzatra. A közvélemény De Gaulle visszatérésétől várta a megoldást, akit a mérsékelt pártok is elfogadtak volna, a „legelőkelőbb francia” viszont csak akkor akarta elvállalni a vezetést, ha széles jogköröket kap politikája keresztülvitelére, és módosítják a – véleménye szerint a törvényhozásnak túl nagy hatalmat biztosító – alkotmányt. Követelései teljesültek: a Nemzetgyűlés 1958. június 1-jén hat hónapra vészhelyzeti jogkörrel felruházott miniszterelnökké választotta, ő pedig még aznap régi barátját nevezte ki irodavezetőjének, s Pompidou az új alkotmányt előkészítő bizottságnak is tagja lett.
A következő három évben az alkotmánybíróság szerepét betöltő Alkotmánytanács tagja volt, közben publikált egy – a francia oktatásban a mai napig használatos – költészeti antológiát, egyik vezetője volt az algériai Nemzeti Felszabadítási Fronttal (FLN) folytatott tárgyalásoknak, és ő lett az igazgatója a De Gaulle fiatalon elhunyt, Down-kóros lányáról elnevezett Anne de Gaulle Alapítványnak is.
De Gaulle tárgyalásokat kezdett az FLN-nel, amely elvezetett a tűzszünethez, majd 1962 márciusában az Algéria függetlenségét elismerő megállapodáshoz, amit mindkét országban népszavazás hagyott jóvá. Az egyezmény elleni tiltakozásul 1962. április 14-én lemondott Michel Debré kormányfő, akinek helyét Pompidou vette át. A tisztséget 1968. július 10-ig töltötte be, ezzel ő a leghosszabb ideig hivatalban lévő francia miniszterelnök. A politikai elit nehezen fogadta el, mert addig semmilyen kormányzati pozíciót nem töltött be, 1962 októberében bizalmatlansági szavazást is kezdeményeztek ellene. De Gaulle ezt nem várta be, miután megnyerte az elnök közvetlen választásáról szóló népszavazást, feloszlatta a parlamentet, a rendkívüli választáson pedig a hozzá hű erők kerültek többségbe. Pompidou kormányfőként igyekezett csökkenteni a munkanélküliséget, sikerült békésen rendeznie az 1964-es bányászsztrájkot is.
Az 1968-as diáklázadások okozta válság De Gaulle bukását eredményezte, a lemondása után kiírt választást Pompidou fölényesen nyerte meg. Elnökként mentora és barátja politikáját folytatta, azonban jóval pragmatikusabban irányította az országot. Támogatta a közlekedés és az infrastruktúra fejlesztését – ő hagyta jóvá a Concorde repülőgép és a TGV szupervonatok kifejlesztését –, pártolta a nehéz- és az autóiparba, a távközlésbe és a nukleáris energiába való befektetést, ugyanakkor ő hozta létre az önálló környezetvédelmi minisztériumot is. Igyekezett csökkenteni a társadalmi feszültségeket, bevezette a minimálbért, törekedett a párbeszédre, hajlandó volt engedményeket tenni a kormányozhatóság érdekében.
Külpolitikáját is a megbékélés jellemezte: elődje konfrontatív irányvonalával szakítva igyekezett javítani a francia–amerikai viszonyon – első államfői látogatása is Washingtonba vezetett. Az egységes Európa híveként Nagy-Britanniával is a jó kapcsolatokra törekedett, és ebben sikerrel is járt: három és fél évvel elnökké választása után, 1973. január 1-jén az Egyesült Királyság (Írország és Dánia társaságában) az Európai Gazdasági Közösség, az EU elődjének tagja lett. Évente találkozott Leonyid Brezsnyev szovjet pártfőtitkárral, és több volt francia gyarmaton is hivatalos látogatást tett.
Fontosnak tekintette Párizs modernizálását: nevéhez fűződik a Szajna-parti gyorsút és a Charles de Gaulle repülőtér megépítése is. A művészeteket nagyvonalún támogatta, kezdeményezte egy minden francia rendelkezésére álló kulturális központ megépítését Párizs szívében színházi stúdiókkal, galériákkal, hatalmas könyvtárral, koncerttermekkel. A munkálatok már életében elkezdődtek, azonban az intézmény 1977-es megnyitását már nem érhette meg.
A közvélemény elől titkolták, hogy nyirokrákban szenved, igyekezett hivatali teendőit az utolsó pillanatig ellátni. Georges Pompidou 62 éves korában, 1974. április 2-án halt meg, utóda az elnöki tisztségben Valéry Giscard d’Estaing lett. A Pompidou Központ csarnokában látható a politikus függőleges vonalakból kialakított portréja, amelyet az op-art magyar-francia atyja, Victor Vasarely készített.
