Rómában született egy minisztériumi tisztviselő harmadik gyermekeként 1901. szeptember 29-én. Egy piacon talált, 1840-ben írt latin nyelvű fizikakönyv hatására fordult érdeklődése a természettudományok felé. Fermi 17 évesen iratkozott be a pisai egyetemre, 21 évesen doktorált, 25 éves korában lett az elméleti fizika tanára a római egyetemen, s még csak 28 éves volt, amikor akadémikussá választották.
1926-ban Paul Dirackal párhuzamosan új típusú kvantummechanikai statisztikát dolgozott ki az elektronok tulajdonságainak vizsgálatára, róla nevezték el az elemi részecskéket fermionnak. Érdeklődése a harmincas évek elején fordult az akkor felfedezett neutron felé, ő nevezte el neutrínónak a Pauli által feltételezett, ismeretlen részecskét, majd kidolgozta a béta-bomlás, a gyenge kölcsönhatások első elméletét. (A neutron az atommag semleges, a neutrínónál jóval nagyobb tömegű alkotórésze, a neutrínókat kísérletileg csak az 1950-es években mutatták ki.)
Miután a Curie házaspár mesterséges radioaktív elemet hozott létre, 1934-ben Fermi is hasonló kísérletbe kezdett. Paraffinon átbocsátott lassú neutronokkal bombázta a periódusos rendszer akkor ismert utolsó elemét, az uránt, és úgy vélte, sikerült eggyel nagyobb, 93-as rendszámú elemet előállítania, amelyet uránium X-nek nevezett el. A még kellően le nem ellenőrzött hírt felettese kiszivárogtatta, az olasz sajtó felkapta és „a fasiszta olasz tudomány” sikereként reklámozta. Csak később derült ki, hogy az eredmény csak bomlási termékek keveréke volt,
Még negyvenéves sem volt, amikor 1938-ban megkapta a fizikai Nobel-díjat „az újabb radioaktív elemek neutronbesugárzással történő létrehozásáért és a lassú neutronok segítségével létrejövő magreakciók egyidejű felfedezéséért”. A díj átvétele után az államilag irányított olasz sajtóban támadások érték, mert a Mussolini rendszerét megvető tudós az ünnepi alkalomhoz illő frakkot viselte és nem a fasiszta egyenruhát, karját sem lendítette fasiszta üdvözlésre. Mivel Olaszországban ekkor már egyre erősebb volt az antiszemitizmus is, Fermi Stockholmból nem tért haza, zsidó származású feleségével az Egyesült Államokba utazott.
A Columbia Egyetemen kapott katedrát, ahol közvetlen munkatársa lett a láncreakció lehetőségét felvető Szilárd Leó. Szilárd úgy gondolkodott: ha találna egy elemet, amelynek atommagja neutron hatására szétesik, és két neutront bocsát ki, akkor ezen elemből elég sokat felhalmozva a pillanat tört része alatt hatalmas energiát felszabadító, láncszerű magreakciót lehetne előidézni. Az uránhasadás önfenntartó folyamatának katonai jelentőségét felismerve 1939-ben Fermi, Szilárd Leó és Wigner Jenő ösztönzésére Albert Einstein levelet írt Franklin D. Roosevelt elnöknek, ennek nyomán indult az amerikai atombomba létrehozását célzó Manhattan-terv. Jóllehet az olasz Fermi „ellenséges külföldinek” számított, végül győzött a józan ész a hivatalos szerveknél, és engedélyezték részvételét a munkában.
1941-ben Fermi mutatta ki először a spontán bomlásnál keletkező neutronokat, és Carl David Andersonnal együtt kiszámította a láncreakcióhoz szükséges kritikus tömeg nagyságát is.
A sikerről kódolt telefonhívás adott hírt Washingtonnak: „Az olasz hajós elérte az új világot.” A mondat nem túlzott: Fermi, akárcsak több száz évvel korábban Kolumbusz, egy valóban új világot fedezett fel, annak minden áldásával és veszélyével. A katonai célra felhasznált láncreakció két és fél évvel később két japán várost s velük együtt emberek százezreit pusztította el, de Fermi még megélte, hogy a Szovjetunióban üzembe helyezzék a világ első atomerőművét.
A tudós a háború után részt vett a chicagói egyetem részecskegyorsítójának építésében, foglalkozott a kozmikus sugárzással, alkotott atommodellt, ő fedezte fel az első magrezonanciát. 1944-ben lett amerikai állampolgár, megkapta a civileknek adható legmagasabb kitüntetést, a Kongresszus Érdemérmét, s elsőként vehette át a tiszteletére alapított Fermi-díjat.
Enrico Fermi 1954. november 28-án rákban halt meg Chicagóban. Róla nevezték el a következő évben felfedezett, 100-as rendszámú elemet fermiumnak. Nevét viseli a 2008-ban felbocsátott Fermi űrteleszkóp, egy olasz és egy amerikai atomerőmű is. Neki tulajdonítják az úgynevezett Fermi-paradoxont is, amely szerint galaxisunkban olyan sok a Naphoz hasonló csillag, amelyek körül a Földhöz hasonló bolygó kering, hogy törvényszerűen máshol is ki kellett az értelmes életnek alakulnia, mégsem sikerült idegen civilizációval kapcsolatot létesíteni. A földönkívüliek létében egyébként valóban hívő Fermi azonban soha nem vetette fel a paradoxont, csak egy beszélgetés során a csillagközi űrutazás megvalósíthatóságában kételkedett, tegyük hozzá: akkor még jogosan, a nevéhez fűződő paradoxon csak évtizedekkel később, több más elméletet magába olvasztva jelent meg ebben a formában.