Szegényparaszti családban jött a világra egy Don melletti kis faluban, Bilozirkában, a mai Ukrajna területén 1920. szeptember 25-én. Már kisgyermekként az állatokat őrizte, iskolái mellett volt kévekötő, tejgyűjtő, takarmány-előkészítő. Tizennyolc évesen felvették a rosztovi színművészeti főiskolára, de tanulmányait félbeszakította a második világháború. Kezdetben katonaszínészként szolgált, majd a Kaukázusban harcolt és meg is sebesült. Tanulmányait csak 1944 őszén folytathatta, rögtön a moszkvai filmfőiskola harmadik évfolyamán.
1948-ban diplomázott, ugyanebben az évben kapta első filmszerepét a Fagyejev-regény nyomán készült, a második világháborúban játszódó Az ifjú gárdában (ennek forgatásán ismerkedett meg első feleségével, Inna Makarova színésznővel). Ezután színészként a kor szellemének megfelelően sematikus és pozitív alkotások hőseit jelenítette meg. Harmincegy éves korában addig legfiatalabbként kapta meg a Szovjetunió népművésze címet, a Sztálin-díj első fokozatát és a Karlovy Vary-i filmfesztivál legjobb férfi alakításért járó díját a forradalmár ukrán költő, Tarasz Sevcsenko életéről készült Széttört bilincsekért. A világ 1956-ban az egyik legelső szovjet Shakespeare-adaptáció, az Othello címszerepében ismerte meg, a Desdemonát alakító Irina Szkobcevát később feleségül is vette.
Rendezőként 1959-ben a Mihail Solohov regényéből forgatott Emberi sorssal mutatkozott be, és emlékezetes színészi alakítást is nyújtott a főszereplő, a német fogságot megjárt Andrej Szokolov sofőr szerepében. A hruscsovi „olvadás” egyik jelentős filmje formailag és tartalmilag is újat hozott a szovjet művészetbe, a háborús téma emberközeli és őszinte feldolgozásáért 1960-ban Lenin-rendet kapott. E munkája után Roberto Rossellini olasz rendező felkérte, hogy játssza el a Rómában éjszaka volt című filmjében Fjodort, a hadifogságból megszökött szovjet pilótát (azon kevés szovjet rendező egyike volt, aki külföldön is dolgozhatott).
Bondarcsukhoz rendezőként is az erős, bátor, önfeláldozó alakok és drámai sorsok álltak közel, hősei lelki gazdagságát, a tragikus próbatételekben megmutatkozó erkölcsi kitartását hangsúlyozta. Öt évet töltött Tolsztoj Háború és béke című regényének filmre vitelével, amit a szovjet kultúrpolitika válasznak szánt a tíz évvel korábbi, King Vidor-féle amerikai változatra. A Pierre Bezuhov szerepét is elvállaló rendezőnek így semmivel sem kellett takarékoskodnia: a Kárpátalján felvett csatajelenetekben a Vörös Hadsereg 120 ezer katonája statisztált, hatvan korabeli ágyút öntöttek újra és több ezer köbméter földet mozgattak meg, a forgatás költségeit mintegy 100 millió dollárra teszik. A monumentális regényből készült „orosz filmeposz” első változata nyolc órás volt, de a vágott változat is 373 percet tett ki. A kritika által kedvezően fogadott alkotás 1969-ben első szovjet filmként nyerte el a legjobb idegen nyelvű filmnek járó Oscar- és a Golden Globe-díjat.
A sikeren felbuzdulva 1970-ben 100 millió dollárból, olasz koprodukcióban, igazi világsztárokkal (Rod Steiger, Orson Welles, Chirtopher Plummer) készíthette el a Waterloo című történelmi filmet, a zenét Nino Rota szerezte. (A kaszkadőrök mellé cirkuszi lovasokat is szerződtettek a lóról esés kivitelezésére. A csatajelenetek inspirálták Peter Jackson rendezőt A Gyűrűk Ura és A hobbit című filmjei ütközeteinek megalkotásához.) A hazai változatban négy, nyugaton kétórás alkotást csendes közöny fogadta, így Bondarcsuk visszatért a színészethez. Szovjet, jugoszláv és keletnémet filmekben szerepelt, köztük a tudományos-fantasztikus Dr. Evans című alkotásban, sikeres volt Asztrov doktorként Csehov Ványa bácsijában és Tolsztoj Szergij atyájaként.
1975-ben Solohov A hazáért harcoltak című, második világháborús alkotását filmesítette meg. Hosszú előkészület után vágott bele az 1915-ös mexikói és az 1917-es bolsevik forradalom amerikai krónikása, John Reed életét feldolgozó Vörös harangok forgatásába. Az 1982-ben és 1983-ban bemutatott kétrészes, együtt ötórás film ismét nemzetközi sztárokat vonultatott fel. Monumentális műve a nyugati világban, ahol Warren Beatty Vörösök című alkotásához hasonlították, jobbára kedvezőtlen kritikákat kapott, de elismerték a rendező tehetségét a tömegek mozgatásában.
Bondarcsuk utolsó nagyszabású vállalkozása az eredeti, Puskin-féle Borisz Godunov megfilmesítése volt 1986-ban, ennek címszerepét is ő alakította. 1989-ben angol nyelvű tévésorozatot kezdett forgatni Solohov Csendes Don című regényéből, Rupert Everett-tel a főszerepben, de az olasz producer pénzzavarba került, és csak a nyers változat készült el. A munkát a rendező fia, Fjodor Bondarcsuk fejezte be, a végleges alkotást 2006-ban mutatták be.
Bondarcsuk lánya, Natalja is színésznő lett, a Tarkovszkij rendezte Solaris című film egyik főszerepét alakította, a rendező felesége, Aljona nevű lánya és Fjodor nevű fia a Borisz Godunov filmváltozatában együtt szerepelt. Fjodor Bondarcsuk több alkalommal is forgatott Magyarországon.
Szergej Bondarcsuk 1967-ben megkapta a francia Becsületrendet. Két-két alkalommal volt tagja a cannes-i és a velencei filmfesztivál zsűrijének. Az 1970-es évek elejétől a moszkvai filmművészeti főiskola tanáraként is tevékenykedett. 1986-ban a moszkvai Bolsoj Színházban színpadra állította Csajkovszkij Mazeppa című operáját. Élete utolsó éveiben tüdőrákban szenvedett. 1994. október 20-án halt meg Moszkvában szívroham következtében, a novogyevicsi temetőben helyezték végső nyugalomra.
