Főnemesi családban látta meg a napvilágot, apja báró Podmaniczky Károly bányatanácsos, anyja a szász miniszterelnök magyarul ugyan nem tudó, de magyarul érző lánya volt. Frigyes a család aszódi birtokán nőtt fel, Pesten járt középiskolába, majd 1842-43-ban Késmárkon jogot hallgatott. Már fiatalon aktívan politizált, miközben írnokként dolgozott. 1845-től a berlini egyetemen tanult, majd két év után hazatért, és Pest vármegyei tisztviselő, a Pozsonyban ülésező 1847-48. évi országgyűlés felsőházi tagja, Kossuth Lajos kortese, azaz kampányfőnöke és a diéta jegyzője lett.
Az 1848-49-es forradalomban és szabadságharcban huszárkapitányként, századosi rangban szolgált, a vereség után büntetésből egy évre közlegénynek sorozták be. Milánóban és Innsbruckban a császári gyalogezrednél naponta fehér kesztyűben olajozta a kocsikerekeket.
Az abszolutizmus idején aszódi birtokára visszavonulva szépirodalommal foglalkozott, és futárszolgálatot teljesített az emigráció számára. Egyik külföldi útjáról hazatérve döbbent rá Pest-Buda elmaradottságára. A közéletbe 1861-ben tért vissza, amikor Szarvas parlamenti képviselője lett, országgyűlési tagságát azután egészen 1906-ig megtartotta. A család közben tönkrement, Podmaniczky egy szerény lakást bérelt a Kerepesi (ma Rákóczi) úton, s újságcikkek írásából tartotta fenn magát. 1868-69-ben ő szerkesztette a Hazánk című folyóiratot. 1869-től Tisza Kálmán közbenjárására az Észak-Keleti Vasútnál személyügyi főnök, majd az Adria biztosítótársaság elnöke lett.
1871 novemberében csatlakozott az egyesített Budapest infrastrukturális fejlesztését irányító Fővárosi Közmunkák Tanácsához (Közmunkatanács), amelynek 1873-tól 1905-ig alelnöke volt. Oroszlánrésze volt abban, hogy a Közmunkatanács teljesítette célkitűzéseit, és ezáltal a Duna partján igazi világváros született meg, lényegében az ő idejében épült fel mindaz, amit ma Budapest építészeti és kulturális örökségének tekintünk. Kiépült a Nagykörút, a Sugárút (az Andrássy út), elkezdődött a város csatornázása, a rakpartok kialakítása – amelyek egyben a fővárost az árvizektől a mai napig is védik –, új városnegyedek nőttek ki a földből. Ő felügyelte az Operaház építését – utóbbihoz a telket is ő szerezte, sőt olykor maltert is kevert. Ezekben az években épült a Várkert bazár, létesült három Duna-híd és a kontinens első földalattija. A kertek, sétányok és a fásítás híve volt. Rendezési elképzeléseibe beletartozott a tisztaság és rend, a közlekedés szabályozása és a vásárcsarnokok. Budapest számos szobrát ő kezdeményezte, s már akkor szót emelt a főváros kerületi széttagoltsága ellen. Az 1896-os millenniumi ünnepségekre felépült az általa megálmodott Budapest.
1875-től tíz éven keresztül a Nemzeti Színház intendánsaként is dolgozott, ez idő alatt a teátrum fénykorát élte. Megszervezte a budapesti színházak működését, és – a műfajok szétválasztásával – kialakította azok profilját is. Kezdetben az 1884-re felépülő Operaház vezetését is ő látta el. 1889-től megszűnéséig a Szabadelvű Párt elnöke is volt. Ezenkívül rengeteg tisztséget viselt, sokrétű tevékenysége csak Széchenyiével vethető össze. Többek között nevéhez fűződik az első állandó „éjjeli menedékhely” építése is.
Közvetlen és szerény stílusával elnyerte a városi polgárok szimpátiáját, a legenda szerint soha nem hagyta el szeretett városát, amit állítólag azzal indokolt, hogy nyaralni is ott lehet a legjobban. Jellegzetes kockás kabátjában, keménykalapban, gomblyukában mindig friss szegfűvel járt a városban. A „kockás báró” – ahogy elnevezték – mindig agglegény maradt, bár nagy hódolója volt a szépnemnek. 1887-88-ban adta ki emlékiratait, de regényei ma már csak irodalomtörténeti érdekességek, írásaiért lett 1859-ben a Magyar Tudományos Akadémia levelező tagja. Az uralkodótól, Ferenc Józseftől 1885-ben valóságos belső titkos tanácsos címet kapott.
Podmaniczky Frigyes 81 évesen vonult vissza a közéletből, élete utolsó éveit Erzsébetvárosban töltötte 1907. október 19-én bekövetkezett haláláig. A Vasárnapi Ujság így búcsúzott tőle: „minden kötelességét a naivitásig híven teljesítette. És semmi tehertől nem riadt vissza, amit vállára raktak.” Hamvai a Podmaniczky család kriptájában nyugszanak az aszódi evangélikus templomban.
Élete végéig írta tizenkét kötetből álló visszaemlékezését és naplóját, amely kiegészítve útleírásaival ma is forrásértékű olvasmány. Budapest vőlegénye címmel Krúdy Gyula örökítette meg életét. Az észak–déli metró Arany János utcai állomásánál 1983-ban róla nevezték el az ott kialakított teret, ahol 1991-ben felállították szobrát, Kő Pál alkotását. A VI. kerületben utca viseli nevét (a névadó eredetileg nagybátyja, László volt), emléktáblája több helyen is látható a fővárosban. Emlékét ápolja a Város- és Faluvédők Szövetsége és a Budapesti Városvédő Egyesület, 1982-ben díjat is alapítottak nevével. Születésének 200. évfordulójáról megemlékeznek Aszódon, június 19-én pedig kiállítás nyílik a budapesti Evangélikus Országos Múzeumban.
