Mihai Sora az Osztrák-Magyar Monarchia állampolgáraként, egy ortodox pap fiaként 1916. november 7-én született a bánsági Temesjenőn (Ianova). Középiskolai tanulmányait Temesváron végezte, majd a Bukaresti Tudományegyetemen tanult filozófiát. Eugene Ionescóval együtt kapta meg 1938-ban a Bukaresti Francia Intézet ösztöndíját tanulmányai párizsi folytatásához. Grenoble-ban doktorált 1944-ben, és Párizsban dolgozott kutatóként. Első filozófiai tárgyú könyvét is francia nyelven közölte. 1948-ban hazalátogatott Romániába, a kommunista hatóságok azonban nem engedték visszatérni Párizsba.
A diktatúra idején előbb a külügyminisztériumban dolgozott referensként, ahonnan „egészségtelen származása” miatt 1950-ben elbocsátották. Előbb az idegen nyelvű könyvek, később pedig az irodalmi és művészeti könyvek állami kiadóját vezette. Az 1960-as években ő indította el a Mindenki könyvtára (Biblioteca pentru toti) új sorozatát, amely néhány év alatt a román- és a világirodalom több mint 400 művét jelentette meg több mint 24 millió példányban.
A Ceaușescu-diktatúra 1989-es megdöntése után, 73 évesen vállalta el az oktatásügyi tárca vezetését a Petre Roman által vezetett első, ideiglenes kormányban. A tisztséget fél évig töltötte be, posztjáról azonban eltávolították (visszaemlékezései szerint tiltakozásképpen maga mondott le), miután nyíltan kifejezte szimpátiáját a kommunista visszarendeződés ellen szerveződő diákmozgalmakkal. A '90-es évek elején egyik alapítója volt a Társadalmi Párbeszéd Csoportnak (GDS), majd rövid ideig alelnöki tisztséget töltött be a Polgári Szövetség Pártjában (PAC).
A rendszerváltás óta eltelt három évtizedben számos alkalommal emelt szót a jogállamiság, a szólásszabadság, a demokratikus értékrend védelmében, ezért a civil társadalom egyfajta erkölcsi iránytűként tekintett rá. Mihai Sora 2017 elején, már százévesen személyesen is részt vett a büntető törvénykönyv korrupcióellenes szigorának enyhítése ellen, az igazságszolgáltatás függetlensége védelmében szervezett százezres tömegtüntetéseken. Előrehaladott kora dacára a közösségi médiában is roppant aktív volt, népszerűségét jelzi, hogy közel 300 ezer követője közül születésnapja reggelén tizenötezren kívántak neki boldog születésnapot.
A filozófus többször is állást foglalt az önálló romániai magyar egyetem létrehozása mellett.
A Bálványosi Nyári Szabadegyetemen és Diáktáborban (Tusványos) 2000-ben tartott előadásában elmondta: erdélyi románként azért küzd a magyar egyetemért, mert jól tudja, hogy Trianon előtt jeles erdélyi magyar értelmiségiek is harcoltak a román nyelvű oktatás bevezetéséért.
Mihai Sora esszéíróként 1978 és 2006 között kilenc kötetet publikált, írói és filozófusi munkásságáért több díjat is kapott. Századik születésnapja alkalmával 2016-ban Klaus Iohannis államfő a Románia Csillaga érdemrend lovagi fokozatával tüntette ki, 2018-ban megkapta az Európai Parlament Európai Polgár Díját.