Jómódú bánáti sváb család sarjaként látta meg a napvilágot a Temes megyei Versecen 1863. szeptember 22-én. Apja, aki patikus, majd a település polgármestere volt, nem beszélt magyarul, de fiát magyar gimnáziumba íratta. Herczeg Temesvárott, majd a szegedi piaristáknál tanult, és már diákévei alatt hetilapot indított, amelyet maga írt, illusztrált és terjesztett. A budapesti egyetemen 1881–84 között jogot hallgatott, később Temesváron, majd Budapesten volt ügyvédjelölt, élte a bálozó, kártyázó aranyifjak életét. 1887-ben egy halálos kimenetelű párbaj miatt négy hónapot töltött a váci fegyházban – itt írta meg a Fenn és lenn című regényét, amely megnyerte a Singer és Wolfner kiadó Egyetemes Regénytárának pályadíját.
Herczeg, aki 1891-től a Budapesti Hírlap munkatársa volt, ironikus és érzelmes novelláival szerzett országos népszerűséget. 1894-ben alapította meg a középosztály igényeit megcélzó Új Idők című irodalmi folyóiratot, amelyet egészen 1944-ig szerkesztett. 1891-ben a Petőfi Társaság, 1893-ban a Kisfaludy Társaság, 1899-ben a Magyar Tudományos Akadémia tagja lett.
Politikai karrierje 1896-ban kezdődött, amikor a verseci választókerületben képviselővé választották, a törvényhozásban 1918-ig foglalt helyet. Barátja és rendíthetetlen híve volt Tisza Istvánnak, 1911-ben együtt indították el a Magyar Figyelő című radikális jobboldali folyóiratot, amely erősen támadta a polgári radikálisokat és a szocialistákat. A Tanácsköztársaság idején nézetei miatt rövid ideig fogságban volt; 1919 után szerepet vállalt az irredenta, revíziós mozgalmakban, a Revíziós Liga elnöke, a felsőház tagja volt.
A harmincas évek közepétől fokozatosan visszavonult a politikától. Egy ideig rokonszenvezett az olasz fasizmussal, ám a német nácizmussal mindig szemben állt, Horthyt és környezetét igyekezett a második világháborúból való kimaradásra, majd a kilépésre bírni. Publicisztikájának vezérgondolata a nemzeti széthúzás, a „turáni átok” elleni harc volt, maga a kifejezés is tőle származik. 1945 után, 1954. február 24-én bekövetkezett haláláig visszavonultan élt, írásai nem jelenhettek meg, 1949-ben törölték az Írószövetség és az MTA tagjai közül.
Herczeg Ferencet a századforduló és a második világháború előtti korszak nemzeti klasszikusának, az ország írófejedelmének tartották, három alkalommal a Nobel-díjra is felterjesztették Az élet kapuja című regényéért, 1930-ban pedig Corvin-láncot kapott. Fordulatos meseszövésű, találóan jellemzett alakokat felvonultató regényei és elbeszélései a dzsentrivilágban játszódó könnyed darabok (A Gyurkovics leányok, A Gyurkovics fiúk). Történelmi regényeiben a magyar múlt egy-egy sorsfordulóját jelenítette meg, ezek közül az 1848-as forradalom idején játszódó Hét svábot tartják a legjobbnak. Rákócziról Pro libertate! címmel írt regényt. A Bakócz Tamás esztergomi érsekről szóló Az élet kapuja fő eszméje a magyarság magányossága, ebből készült színdarabját legutóbb 2020-ban tűzte műsorára az Újszínház.
Molnár Ferenc mellett Herczeg volt az 1945 előtti időszak egyik legnépszerűbb színpadi szerzője. Kék róka című társasági vígjátéka világsikert aratott, a darabot 1937-es felújítása alkalmából Bajor Gizi számára jelentősen kiegészítette. A műből 2022-ben Pacskovszy József rendezett nagysikerű tévéfilmet Zsigmond Emőke, Száraz Dénes és Fekete Ernő főszereplésével. Szintén Pacskovszky nevéhez fűződik a Majdnem menyasszony című 2023-as tévéfilm is, A Fehér Páva című regény feldolgozása. Herczeg írt történelmi drámákat is: a Pogányok Szent István korát, az Ocskay brigadéros a kuruc kort, a Bizánc a törökök által ostromolt város tragédiája révén a kiegyezés utáni Magyarországra lesújtó nemzethalál vízióját jeleníti meg. Feleséget is a színházból választott, bár házassága a nála jóval fiatalabb Grill Juliskával nem tartott sokáig.
A korábban koszorús írót 1949 után több évtizeden keresztül mellőzték, az 1980-as évekig műveit ki sem adták. 1993-ban három kötetben megjelentek emlékezései, amelyben az író szemén keresztül láthatjuk Magyarország történelmét a kiegyezéstől a második világháború végéig.
2019-ben a magyar állam a nevét viselő irodalmi díjat alapított a kiemelkedő történeti irodalmi tevékenység elismerésére; a díjat először Bán Mór író, újságíró, a Kecskeméti Televízió ügyvezető főszerkesztője, Kocsis István író, drámaíró, a Magyar Televízió munkatársa, valamint Szalay Károly író, a Magyar Televízió munkatársa, a Lyukasóra folyóirat főszerkesztője vehette át. Ugyanebben az évben kulturális örökségének ápolása céljából megalakult a Herczeg Ferenc Társaság. 2021-ben a Nemzeti Színházban felavatták mellszobrát, Törley Mária szobrászművész alkotását.