Az ukrajnai Zsitomirban jött a világra, de Odesszában nőtt fel, ahol német származású apja konzervatóriumi tanár volt. Sokáig autodidakta módon tanult zongorázni, mert nem tűrte a rendszeres képzést. Nyolcévesen már komponált, négy évvel később megírta első operáját, a műfajért haláláig rajongott, Wagner, Csajkovszkij és Verdi művei voltak a kedvencei. Tizenöt évesen az odesszai operaház korrepetitorának nevezték ki, első szóló zongorakoncertjét tizenkilenc évesen Chopin műveiből adta.
Formális zongoraképzése csak 1937-ben kezdődött, amikor a moszkvai konzervatórium hallgatója lett.
Neuhaus közbenjárása többször mentette meg a kirúgástól az öntörvényű Richtert, aki nem volt hajlandó politikai oktatásra járni. 1942-ben Richter játszotta először közönség előtt Szergej Prokofjev hatodik zongoraszonátáját, ez volt az első alkalom, hogy nem maga a komponista mutatta be szonátáját. Richter élete végéig Prokofjev műveinek hű tolmácsolója maradt, ő játszotta először a hetedik és a kilencedik zongoraszonátát is, utóbbit neki ajánlotta a szerző. Sosztakovics néhány művét szintén repertoárra vette, de nem került hozzájuk olyan közelségbe, mint Prokofjev zongoradarabjaihoz. A második világháború idején koncertezett a frontkatonáknak, de német származása miatt megbízhatatlannak minősítették és a hátországba küldték.
1945-ben megnyerte a szovjet előadóművészek össz-szövetségi versenyét,
Rövid ideig vezényelt is, de gyorsan letette a karmesteri pálcát, mint mondta, „két dolgot gyűlölök, az analízist és a hatalmat. A karmester nem kerülheti el egyiket sem.” 1958-ban részt vett az első moszkvai nemzetközi Csajkovszkij-verseny zsűrijében. 1960-ban első szovjet művészként nyert Grammy-díjat Brahms 2. zongoraversenyének felvételéért, 1961-ben megkapta a Lenin-díjat. Nem igazán szeretett stúdióban dolgozni, lemezeinek többsége koncertfelvétel.
Első alkalommal 1950-ben Prágában koncertezhetett külföldön, Magyarországon először 1954. március 4-én lépett föl. A legendássá vált előadás félházzal kezdődött, mert Richter nevét akkor még nem ismerték idehaza, a szünetben azonban a nézők körbetelefonálták a várost, hogy aki tud, jöjjön, mert egy „zseni” játszik, s a koncert végén egy tűt sem lehetett volna leejteni a teremben. Négy évvel később nálunk játszotta először Bartók II. zongoraversenyét Ferencsik János vezényletével.
Közel állt hozzá a magyar zene, legnagyobb előszeretettel Liszt darabjait játszotta. Magyarországon több mint ötven alkalommal lépett fel, utoljára 1993-ban Grieg műveit játszotta. Magyarországi rádiófelvételeit 2010-ben 14 CD-ből álló válogatáson tették közzé; olyan művek is akadnak köztük, amelyeket csak nálunk játszott, vagy sehol máshol nem rögzítettek vele.
Richtert először 1960-ban engedték a vasfüggöny másik oldalára, ezután állandó vendége lett a leghíresebb zenei fesztiváloknak, volt olyan év, hogy több mint száz koncertet adott. Szívesen vállalt kamarazenélést is, fellépett Msztyiszlav Rosztropovics gordonkaművésszel, David Ojsztrah hegedűművésszel, kísérte az énekes Dietrich Fischer-Dieskaut és Elisabeth Schwarzkopfot, valamint feleségét, Nyina Dorliak énekesnőt, az angol komponista-zongoraművész Benjamin Brittennel négykezes és kétzongorás felvételeket is készített.
Hatalmas repertoárján szinte a teljes zongorairodalom szerepelt. Elsősorban Schubert, Schumann, Beethoven, Prokofjev és Sosztakovics, valamint Bach műveit szerette. Olyan darabokat viszont soha nem játszott, amelyekről úgy vélte, hogy mások már tökéletesen előadták.
Nem kedvelte a telefont, félt a repüléstől, legszívesebben gépkocsival és vonattal utazott.
Távol tartotta magát a politikától, s bár nyugati turnéit csak későn kezdhette el, emigrálni soha nem akart, mert úgy vélte: játszani mindenhol lehet. A zenei tökéletesség fanatikusa volt. Tökéletes technikai tudása mellett hatalmas sikert aratott improvizációs képessége is. Tanítani soha nem akart. Fiatalon komponált is, de Moszkvába költözése után már csak zongorázott. Nem kedvelte a publicitást, fényképezni élete végén már csak a szünetekben engedte magát. Koncertjein szinte sötétben játszott, csak gyertya világíthatott, interjút igen ritkán adott. Idősebb korában már nem szerette a nagy hangversenytermeket, szívesebben lépett fel kisebb városokban.
Élete utolsó éveit Párizsban töltötte, utolsó hangversenyét 1995 márciusában Lübeckben adta. A francia Bruno Monsaingeon 1997-ben forgatta vele a Richter, a rejtély című dokumentumfilmet. Halála előtt alig egy hónappal költözött vissza Moszkvába, ott halt meg 1997. augusztus 1-jén szívinfarktus következtében. Hamvai a Novogyevicsi temetőben nyugszanak. Nevét egy kisbolygó is őrzi.
