Moise Zaharovics Sagalov az oroszországi Vityebszk (ma Vicebszk, Fehéroroszország) városában született 1887. július 7-én (egyes források szerint július 6-án) egy kilencgyermekes zsidó családban. Apja heringet árult, anyjának vegyesboltja volt. A zsidó iskolában, majd az orosz gimnáziumban tanult, ekkoriban sajátította el a rajzolás alapjait. Életének ez volt a meghatározó időszaka, magába szívta és elraktározta az őt körülvevő világot, a kis település életét és jellegzetes alakjait.
Húszévesen – származása miatt külön engedéllyel, mert a zsidók csak a számukra kijelölt övezetben mozoghattak – Szentpétervárra ment, hogy képezze magát. Az Orosz Balett díszlettervezője, Leon Szamojlovics Bakszt vette szárnyai alá, ekkori korszakának kiemelkedő darabja a rémálomhoz hasonló Halál, s a képen már feltűnik a háztetőn zenélő hegedűs.
1910-ben egy pártfogója segítségével Párizsba utazott, s bár Bakszt azt mondta neki, hogy a „fény városában” csak szegénység és éhezés vár rá, rátalált a saját stílusára. Az avantgárd költők és festők – köztük Modigliani és Apollinaire – ösztönző hatására rövid idő alatt kiforrott művésszé vált.
Képeit élénk színek jellemezték, s egyre összetettebb művein szétszórt, montázsszerű motívumok jelezték álmainak világát. Képzeletének fő forrása a gyermekkor, a képek jiddis tréfát, orosz tündérmesét vagy zenés színdarabot idéznek.
Első önálló kiállítását Apollinaire közbenjárására 1914-ben a berlini Der Sturm Galériában rendezhette meg. Nem sokkal később kitört az első világháború. Mivel Párizsba nem térhetett vissza, Oroszországba utazott. Hazatérve csaknem realista képeket festett, 1915-ben feleségül vette szerelmét, Bellát, aki hűséges társa, alkotásainak visszatérő alakja maradt. Egy évvel később megszületett lányuk, Ida. A katonai szolgálatot elkerülendő minisztériumi állást vállalt, kiállításokat rendezett.
Erőfeszítéseivel felhagyva 1920-ban Moszkvába utazott, ahol a Jiddis Színházban tervezett díszleteket és jelmezeket, valamint árvákat tanított rajzolni.
A helyzetét egyre bizonytalanabbnak érző, a nélkülözésbe belefáradt festő 1922-ben végleg elhagyta szülőhazáját. Rövid berlini kitérő után Párizsban telepedett le, és a francia állampolgárságot is megkapta 1937-ben. A rézmetszést kitanulva Gogol Holt lelkek című regényét, majd La Fontaine meséit illusztrálta. Elkezdte az Ószövetség képi feldolgozását is, Palesztinában tett tanulmányutat, a hatalmas vállalkozással csak 1956-ban készült el. Kevesebbet festett, de a Cirkusz és Az Eiffel-torony szerelmesei költőisége rendkívül népszerűvé tette, sokat utazott, és 1931-ben Életem címmel kiadta önéletrajzi regényét.
Ekkor készült képei hűen tükrözik egyre zaklatottabb lelkivilágát, példa erre A fehér keresztre feszítés 1938-ból.
Amikor a németek 1940-ben megtámadták Franciaországot, családjával Marseille-be, majd Amerikába menekült. Neve már ismert volt a tengerentúlon, és a kezdeti nyelvi nehézségek ellenére egyre több megbízást kapott. Felesége három évvel később meghalt. 1946-ban New Yorkban addigi munkásságát bemutató kiállítást rendeztek, hatalmas sikerrel.
1948-ban visszatért Franciaországba, majd a Riviérára költözött és újra megnősült. Új korszakának művein a párizsi városképek az uralkodók, emellett festett díszleteket, tervezett üvegablakot, készített kerámiákat és szobrokat. Nagyszabású munkái többek között a párizsi Opera mennyezetfreskója, a New York-i Metropolitan Opera falfestményei, a jeruzsálemi parlament pannói, az ENSZ-palota és a reimsi katedrális üvegablakai.
Marc Chagall kilencvenhét évesen, 1985. március 28-án hunyt el Saint-Paul-de-Vence-ben, sírja is ott található. Még életében 1973-ban Nizzában múzeuma nyílt, 1977-ben a Louvre retrospektív kiállítással tisztelgett előtte, megkapta a legmagasabb francia kitüntetés, a Becsületrend legmagasabb fokozatát. 1981-ben Wolf-díjjal tüntették ki. A Szovjetunióban nemkívánatos személynek számított, a nevét viselő vityebszki múzeumot csak 1997-ben alapították egykori lakóházában.
Életműve szorosan kapcsolódik a 20. század történelmi eseményeihez, látomásos művészete egyaránt merített a kelet-európaiságból, a párizsi iskolához tartozásból és a zsidó identitásból. Képein szabadon társította a virágcsokrok, repülő szerelmesek, bohócok, csodálatos állatok, bibliai próféták, háztetőn játszó hegedűsök motívumait. Vizuális metaforái páratlanok a modern művészetben, a múlt század egyik legnépszerűbb újítója nem sorolható irányzatokhoz, alkotásain a jelenségek helyett emlékképüket ábrázolta, álomszerű témáit gazdag színekkel, könnyed stílusban jelenítette meg.