Családja a 19. század elején Bécsből költözött Pozsonyba, édesapja jómódú cipészmester volt. Német anyanyelve miatt cseregyerekként Trencsénben szlovákul, illetve Tatán magyarul tanult. Iskolai tanulmányait szülővárosában, majd a bencések pannonhalmi gimnáziumában végezte. 830-ban a Szent Benedek-rendbe lépett. A pannonhalmi rendi főiskolán teológiát tanult 1834-től. 1838-ban szentelték pappá. 1838?39-ben tihanyi segédlelkész. Bölcsészdoktori oklevelét 1839-ben szerezte a pesti egyetemen. 1839-től a győri gimnáziumban a magyar és latin nyelv, utóbb a természetrajz tanára. 1842-től a győri bölcsészeti tanfolyamon a bencés növendékeknek természettudományokat tanított. 1845-től Pozsonyban a felső iskola természetrajz-tanára. 1848 tavaszán önkéntesként belépett a honvédseregbe, és végig küzdötte a szabadságharcot. Ennek leverése után nyolc évi börtönre ítélték: Bécsben, Olmützben, végül Josefstadtban raboskodott. 1854-ben kegyelemmel szabadult. Ezután 1855?57-ben Pozsonyban és több helyen nevelőként, majd 1857?61-ben a győri bencés gimnázium természetrajz-tanáraként dolgozott. 1861?ben Pestre költözött, s kilépett a bencés rendből. Előbb az MTA kézirattárnoka, 1862-től a budai római katolikus főgimnázium igazgatója, 1863-tól a pesti egyetemen az éremtan és régiségtan magántanára, 1868?77-ben nyilvános rendes tanára. 1869?77-ben a Magyar Nemzeti Múzeum érem- és régiségtárának őre volt. 1877-től nagyváradi kanonok.
A XIX. század egyik legjelentősebb tudósa, a magyar régészettudomány egyik megalapítója. 30 önálló kötetet és mintegy 450 tudományos közleményt publikált. Tudományos életében döntő fordulatot hozott Ipolyi Arnolddal való barátsága, mivel az ő hatására fordult a régészet felé. Kezdeményezte az ország régészeti és művészeti emlékei felkutatását és feldolgozását. Megalapította a győri múzeumot, megindította Győri Történelmi és Régészeti Füzetek sorozatot. A győri múzeumon kívül megalapította a pozsonyi, a nagyváradi, végül a budapesti keresztény múzeumot. Megkezdte a később az egész országra kiterjedő művészettörténeti és régészeti felfedező útjait. Kiadatlan, saját rajzaival ellátott többkötetes naplója a magyar régészet, művészettörténet és műemlékvédelem értékes forrása. A Bakony térségében végzett geológiai, botanikai, régészeti, építészettörténeti gyűjtései alapján elvégezte a Bakony teljes, tudományos feltérképezését. 1859 nyarán Ószőnyben római kori leleteket vizsgált, Zoboron Ipolyi vezette be a régészeti és műemléki alapismeretekbe. A MTA Archaeológiai Bizottság tagjaként, a Bizottság anyagi támogatásával bejárta Pest környékét, járt a Vértesben, Nógrád és Vas megyékben, felfedezte Aquila Jánosnak a veleméri, a tótlaki és a mártonhelyi templomban lévő 14. századi falfestményeit. Tudományos kutatásai a corvinákat is érintették: német-, olasz-, francia- és oroszországi útjainak célja a híres könyvtár darabjainak felkutatása volt.
Tovább mélyítette régészeti ismereteit. Folyamatosan dolgozott az Őskori művészet kézikönyvén, egymás után jelentek meg tanulmányai a fenékpusztai várról, az ószőnyi és az óbudai római építményekről, Trans-Aquincum erődjéről. Ismertette a Magyar Nemzeti Múzeum birtokában lévő 56 db pannoniai feliratos követ és keresztelőmedencéket, áttekintést adott a bakonyszombathelyi éremkincsről. Foglalkozott az ősrégészet forrásaival és a különböző módszertani kérdésekkel. Először mutatott rá a felszínre kerülő agyagedény-maradványok kiemelkedő fontosságára. A Párizsi Világkiállítás előkészítése során személyesen válogatta ki a Nemzeti Múzeum legértékesebb tárgyait. 1876-ban az ő kezdeményezésére tartották Budapesten az ősrégészek és antropológusok VIII. nemzetközi kongresszusát. Bekapcsolódott a Biharmegyei Régészeti és Történelmi Egylet munkájába. Szervezésével az egylet új, országos jellegű régészeti kiállítást rendezett. Fontosnak tartotta a közvélemény tájékoztatását, ásatásairól a napilapok hasábjain rendszeresen beszámolt.
1867-ben tevékenyen részt vett a Magyar Történelmi Társulat megalapításában. 1878-tól a krakkói Lengyel Tudományos Akadémia külső rendes tagja. 1861?68-ban a Győri Történeti és Régészeti Füzetek szerkesztője Ráth Károllyal, ezt követően 1868?72-ben az Archaeologiai Értesítő, 1864?73-ban az Archaeologiai Közlemények szerkesztője. Az MTA levelező tagja 1860. október 9-től, rendes tagja 1871. május 17-től. 1860. június 17-én tartotta akadémiai székfoglalóját Magyarország földirati és terményi állapotáról a középkorban címmel, majd 1872. május 6-án A magyar jelmezről címmel. 1873-ban megkapta a Vaskorona Rend III. fokozatát, elnyerte a 48-as honvéd emlékérmet. 1941-től a Magyar Régészeti és Művészettörténeti Társulat róla elnevezett emlékérmet adományoz. Nevét utcák (Budapest, Pozsony, Zirc) őrzik, szülőházát emléktáblával jelölték meg.
Fő művei: Pozsony régészeti műemlékei. Pozsony, 1856.; A Bakony. Győr, 1860. (reprint kiadás: Bp., 1990.; Magyarország földirati és terményi állapotáról a középkorban. Pest, 1862.; Műrégészeti kalauz. Különös tekintettel Magyarországra. Pest, 1866.; Az ősrégi agyagművesség viszonya a történelemhez. Századok, 1868.; Árpás és a móriczhidai Szent Jakabról címzett prépostság története. Pest, 1869.; Képes kalauz a m[agyar] n[emzeti] múzeum érem- és régiségtárában. Pest, 1870., 2. kiad.: 1873.; Díszlapok a római könyvtárban őrzött négy Corvin-codexből. Pest, 1871.; A Magyar Nemzeti Múzeum római feliratos emlékei. Bp., 1873.; A régi Pest. Bp., 1873., reprint kiadás: 1988.; Régi falképek Magyarországon. Bp., 1874.; Adalék a magyar ötvösség történetéhez. Századok, 1877.; Kiadatlan római feliratok. Bp., 1877.; A hazai ötvös-céhek szabályai. Századok, 1877.; Résultats généreaux du mouvement archéologique en Hongrie. Bp., 1878.; A nagyváradi ezüstlelet. Biharmegyei Régészeti és Történelmi Egylet Évkönyve, 1888.; Egyház, műveltség, történetírás. Vál., kiad., bev. Rottler Ferenc. Bp., 1981. (Ipolyi Arnolddal, Fraknói Vilmossal, valamint válogatott bibliográfiával); Rómer Flóris jegyzőkönyvei. Somogy, Veszprém és Zala megye (1861). Kiad. Valter Ilona, Velladics Márta. Bp., 1999.
Róla szóló irodalom: Hampel József: Rómer Flóris. Bp., 1891.; Fraknói Vilmos: Rómer Flóris emlékezete. Bp., 1891.; Kumlik Emil: Rómer Flóris élete és működése. Pozsony, 1907.; Börzsönyi Arnold: Rómer Flóris. Győr, 1911.; Kanizsay Margit: Rómer Flóris emlékezete. Bp., 1957.; Csóka J. Lajos: Rómer Flóris életműve. Vigilia, 1964.; Banner János: Emlékezés Rómer Flóris születésének 150. évfordulójára. Műemlékvédelem, 1965.; Rómer Flóris levelei Gratzl Józsefhez az olmützi és josefstadti kazamatákból. Kiad. Kőhegyi Mihály, Rákóczi Katalin. (Arrabona, 1968); Rómer Flóris - Tardy Hermann - Tardy Ármin: Adatok Rómer Flóris tiszántúli éveiből. 1877?1889. Kiad., bev. Sz. Máthé Márta. Debreceni Déri Múzeum Évkönyve, 1989?1990.; Bánhegyi B. Miksa: Rómer Flóris meghatározó pályakezdése. ? Makkay János: Rómer Flóris nagyváradi évei (1877?1889). Archaeologiai Értesítő, 1991.; D. Matúz Edit: Adatok Rómer Flóris kéziratos hagyatékából Pest-Buda középkori történetéhez. Budapest, Régiségei, 1992.; Dukrét Géza ? Maróti Éva ? Tóth László: Rómer Flóris Ferenc. In: Magyar múzeumi arcképcsarnok. Főszerk.: Bodó Sándor ? Viga Gyula. Bp., 2002.