A Don-parti Vjosenszkaja nevű kozák település melletti Kruzsilin-tanyán született 1905. május 24-én. Szülei a helyi és moszkvai gimnáziumokban taníttatták, ám a történelem közbeszólt. Az 1917-es forradalmak után kezdődött polgárháborúban Solohov a szülőföldjén dúló harcok részese lett, a húszas évek elején, sihederként már fegyveres csoportokkal járta a vidéket. 1922-ben egy időre Moszkvába költözött, ahol alkalmi munkából tartotta fenn magát és egy írótanfolyamot is elvégzett. 1924-ben hazatért, szülőföldjét hosszabb időre már csak 1937-ben és a második világháború idején hagyta el.
Kamaszfejjel kezdett el írni, részt vett a Molodaja Gvargyija irodalmi csoport munkájában. Anyajegy című első novellája 1924-ben, első kötete, a Doni elbeszélések 1926-ban jelent meg.
Nagyívű regényeposzát, a Csendes Dont húszévesen, 1925-ben kezdte el, s amikor 1928-ban az első két kötet – folytatásokban – megjelent az Oktyabr című folyóiratban, neve egy csapásra ismertté vált. A Csendes Dont már a harmincas években számos nyelvre lefordították, a világirodalom egyik legolvasottabb könyve lett. Az 1912–22 között játszódó regény a hagyományokhoz ragaszkodó kozák család felbomlásának története, de annyira elütött a szocialista realista eszményeknek egyébként minden téren megfelelő solohovi életműtől, hogy a plágium vádja már 1929-ben felmerült. A gyanút táplálta, hogy egy kezdő, fiatal és képzetlen irodalmár rukkolt elő a remekművel, aki élete hátralévő fél évszázadában meg sem tudta közelíteni ezt a minőséget, ráadásul olyan eseményekről is életszagúan írt, amelyek idején még iskolás volt. Az elmélet szerint a könyv valódi szerzője egy Fjodor Krjukov nevű, 1920-ban elesett fehérgárdista tiszt lett volna, Solohov az ő zsákjában talált kézirat alapján látott neki a Csendes Donnak. A vita évtizedekig nem csillapult, mígnem 2000-ben, az író születésének 95. évfordulóján rendezett moszkvai kiállításon bemutatták a Csendes Don elveszettnek hitt, grafológusok által is igazolt kéziratát. A Csendes Donból több film is készült, a legsikeresebb közülük a Szergej Geraszimov rendezte 1957-es alkotás.
Következő kötetét, a mezőgazdaság kollektivizálását megörökítő Feltört ugart negyedszázadon át írta, a könyv első része 1938-ban, a folytatás 1960-ban jelent meg és Lenin-díjat hozott az írónak – a mű magyar címe először Új barázdát szánt az eke volt. Az orosz parasztság életkörülményeit bemutató könyv tulajdonképpen a sztálini kolhozpolitika kedélyes illusztrációja, pedig Solohov nagyon jól látta, mi történik: az ő környezetében is kuláknak nyilvánított kozákok ezreit börtönözték be, családtagjaikra éhhalál várt. Az ekkor már a kommunista pártba is belépett író tiltakozó leveleket, táviratokat küldött Sztálinnak, aki eleinte kegyként kétezer bebörtönzöttet szabadon bocsátott, többre azonban nem volt hajlandó.
A Sztálin által elrendelt „nagy tisztogatás” alatt, 1937 tavaszán a Don menti Rosztovban a rendőrség Solohov ellen is letartóztatási parancsot adott ki. Erről egyik jóakarója értesítette, ő pedig nyomban Moszkvába menekült, hogy magától a pártfőtitkártól kérjen segítséget. Sztálin kegyesen fogadta, jóindulatának megnyilvánulásaként Solohov beszédet mondhatott a bolsevik párt 1939-es kongresszusán – ez a kor sajátos jelrendszere szerint azt jelentette, hogy végleg megúszta a tisztogatásokat. A második világháborúban haditudósító volt, 1942-ben kisebb sérülésekkel úszott meg egy légiszerencsétlenséget, 1945-ben ezredesi rangban szerelt le.
A megrázkódtatások, a háború borzalmai azonban nem múltak el nyomtalanul: tehetsége kiapadóban volt, művészileg leépült, és ezt ő is érezte. Pályája hanyatlani kezdett, ráadásul közszereplései miatt személye is kompromittálódott. 1956-ban még világszerte elismerést váltott ki Emberi sors című kisregénye, amelyből költői szépségű filmet rendezett Szergej Bondarcsuk, aki a főszerepet is eljátszotta. Pedig ez a szívfájdító történet is alapvetően hamis: a német fogságból szabaduló főszereplőnek a hasonló sorsú százezrekhez hasonlóan valamelyik lágerben kellett volna kikötnie, ahonnan talán vissza sem tért volna.
Solohov nagyregénynek szánta A hazáért harcoltak című művét, amelyről tisztelői azt remélték, hogy a 20. századi Háború és béke lesz. A kéziratot többször félretette, s a regény – amelynek csak első részei készültek el – végül csalódást okozott, akárcsak a Bondarcsuk rendezte 1975-ös filmváltozat.
Az ötvenes évek végére Solohov teljesen elszigetelődött. Írótársaival rendszeresen – és durván – konfrontálódott, a másként gondolkodók engesztelhetetlen ellensége volt, a hatalomhoz azonban törleszkedett. 1937-től tagja volt a Legfelsőbb Tanácsnak, 1939-től a Tudományos Akadémiának, 1961-től haláláig az SZKP Központi Bizottságának. 1941-ben Sztálin-, 1960-ban Lenin-díjat kapott, kétszer nyerte el a Szocialista Munka Hőse kitüntetést. 1965-ben megkapta az irodalmi Nobel-díjat „azért az erőért és művészi lelkiismeretességért, amellyel a Don-vidékről szóló eposzában az orosz nép életének egyik történelmi fázisát leírta”, a kitüntetésért – amelyet Paszternak és Szolzsenyicin nem vehetett át – ő Stockholmba utazhatott.
A hetvenes évek végén fizikai állapota romlani kezdett. Súlyos cukorbajához és magas vérnyomásához az idült alkoholizmussal járó májbetegség is járult – a Cimljanszkoje édes pezsgőből ötven éven keresztül minden nap megitta adagját, még a háború alatt is. Két agyvérzés után súlyos infarktust kapott, de 1984. február 21-én gégerákban halt meg szülőhelyén, a Kruzsilin-tanyán.
Leghíresebb művét, a Csendes Dont 2011-ben eredeti változatban, cenzúra és szerkesztői javítások nélkül jelentették meg.
