Rómer Flóris Ferenc a középiskolát három városban végezte: német anyanyelvű szülei a korban szokásos módon Tatára és Trencsénbe is elküldték tanulni, hogy a szlovák és a magyar nyelvet is elsajátítsa, bölcsészeti tanulmányait Győrben, a teológiát Pannonhalmán végezte. 1830-ban lett Benedek-rendi szerzetes, pappá 1838-ban szentelték, és Tihanyban szolgált segédlelkészként. 1839-től a győri bencés gimnáziumban magyart és latint tanított, később a természetrajz és a fizika tanára is volt. 1842-től a győri bölcsészeti tanfolyamon a bencés növendékek természettudományos képzését vezette. Pozsonyban jelentek meg első tudományos közleményei, amelyekkel hírnevet szerzett magának, egy ideig József főherceg nevelője volt.
Hazafias buzgalmában nevét Rómaira magyarosította, és tanítványait példájának követésére, harcra buzdította. Mindezekért a szabadságharc leverése után nyolcévi „vasban letöltendő” büntetésre ítélték, s miután 1854-ben közkegyelemmel szabadult, rendje vezeklésül Bakonybélbe küldte tanítani.
Csak három év múlva térhetett vissza a győri rendházba, ahol a helyi közlönyben közreadta tervszerű gyűjteményfejlesztési koncepcióját. 1859-ben jelent meg nevezetes Bakony-monográfiája, amelyet egy év múlva önálló kötetben is kiadtak. Még ebben az évben a győri bencés gimnázium régiségtárából létrehozott múzeum őre, 1860-ban a papi szeminárium egyházi-archeológiai tanszékének vezetője lett. A következő évben megindította az ország első történelmi szakfolyóiratát, a Ráth Károllyal együtt szerkesztett Győri Történelmi és Régészeti Füzeteket.
Rómer 1861-ben kivált a bencés rendből. Pestre költözött, ahol először az MTA kézirattárnoka, majd 1862-től gimnáziumi igazgató lett. A Magyar Tudományos Akadémia 1864-ben vette fel tagjai sorába, felvételét egykori bencés tanulótársa, Ipolyi Arnold, a régi magyar hitvilág kutatója javasolta. 1864 és 1873 között az Archaeológiai Közleményeket, 1868 és 1872 között az Archaeológiai Értesítőt is szerkesztette.
A kiegyezés után, 1868-ban egyetemi archeológiatanárrá nevezték ki, őskori, ókori és középkori régészetet és művészettörténetet is oktatott, kezdeményezésére és irányításával indult meg Budapesten a magyar régészképzés. 1869-ben a Magyar Nemzeti Múzeum régiségtárának igazgatójává nevezték ki. Bejárta az országot, pontosan felmérte és lerajzolta a romokat, épületmaradványokat, feltárásainak eredményét tanulmányokban, cikkekben tette közzé.
1874-ben felmentették szerzetesi kötelékéből, áldozópap, majd jánosi apát lett. 1877-ben Lipovniczky István püspök Nagyváradra hívta, kanonokká nevezte ki, és megbízta a székesegyház restaurálási munkálatainak vezetésével. Nagyváradon újabb múzeumot alapított, létrehozta a püspöki palota húszezer kötetes könyvtárát, ahol egészen haláláig dolgozott.
Rómer Flóris tekintélyes régész volt, az ő érdeme, hogy 1876-ban Budapesten tartották az ősrégészek és antropológusok VIII. nemzetközi kongresszusát.
Többkötetes, kiadatlan, saját rajzaival illusztrált naplója a magyar régészet, művészettörténet és műemlékvédelem értékes forrása.
Rómer 1889. március 18-án halt meg Nagyváradon, sírja a város római katolikus székesegyházának altemplomában található. Szobra áll Győrben, ahol az általa alapított múzeum is őrzi nevét. Emléktáblája látható az óbudai Aquincumi Múzeum falán, Budán, Nagyváradon, Veszprémben és Gödöllőn utcát neveztek el róla. Születésének 200. évfordulója alkalmából 2015-re emlékévet hirdettek. A Magyar Régészeti és Művészettörténeti Társulat az emlékére alapított éremmel a kiemelkedő életművel rendelkező régészeket ismeri el.