1866. december 4-én született Moszkvában egy gazdag teakereskedő fiaként. Családjával sokat járt külföldön, főleg Itáliában, ötéves korától a pezsgő Odesszában élt. Moszkvában tanult közgazdaságot és jogot, jogi diplomáját 1893-ban szerezte meg. Főként az építészet és az ikonok érdekelték, 1889-ben egy néprajzi gyűjtőútján figyelt fel a népi festészet valóstól elütő színeire és formáira. Az Ermitázsban Rembrandt művészetét tanulmányozta, és párizsi tanulmányutat is tett.
A festészetet 1896-tól Münchenben tanulta, a realizmus mellett az impresszionizmus, a szecesszió és a pointillizmus is hatott rá. Később az expresszionizmus és fauvizmus irreális színvilága ragadta el, de az orosz ikonok és népművészet benyomásai is megmaradtak, első önálló kiállítása Moszkvában volt 1903-ban. Utazgatott Németországban, Franciaországban, Olaszországban és Tunéziában, végül a dél-bajorországi Murnauban telepedett le, itt alakult ki egyéni, a tiszta absztrakthoz vezető stílusa.
Az absztrakttal már a kubisták is próbálkoztak, de az első nonfiguratív festménynek Kandinszkij 1910-es Első absztrakt című vízfestményét tartják. Az első kiállított absztrakt kép a következő évben a nagy méretű Kompozíció V. volt, ezen már egyetlen felismerhető tárgy sincs. A kép elemeinek tudatos átrendezését szerkesztett szétszórásnak hívta: Fekete ív, Fekete vonalak, Ősz című alkotásai jelentik művészete csúcsait. Münchenben alapító tagja volt az Új Művészegyüttesnek, majd 1911-ben Franz Marckal létrehozta a Der Blaue Reiter nevű csoportot, amely egy 1903-as Kandinszkij-képről kapta a nevét.
Az első világháború kitörése után hazatért Oroszországba. Az 1917-es bolsevik hatalomátvétel után a szovjet kormány meg akarta nyerni a modern művészeket, így Kandinszkij a Moszkvai Művészeti Főiskola tanára és a Közoktatási Népbiztosság munkatársa, a Képi Kultúra Múzeum igazgatója, a moszkvai egyetem tanára lehetett. Megjelent orosz nyelvű önéletrajza, 1919-ben létrehozta a Művészeti Kulturális Intézetet és a Szovjet Művészettudományi Akadémiát. Talált időt a festészetre is, ekkori művei, a Fehér vonal vagy a Kék töredék már a teljes absztrakció jegyében születtek.
Eleinte a formai elemekről és színekről adott elő, falfestészeti stúdiót vezetett, a szabad festészetet a Bauhauson csak 1925-től, már Dessauban oktatta. Sárga-kék-piros kompozíciójában a geometrikus absztrakcióhoz jutott közel, a Pont és vonal a síkban című könyvében elméleti kérdésekkel foglalkozott.
Már a Der Blaue Reiter tagjaként kísérletet tett egy minden érzékszervre ható előadás létrehozására, a „totális művészet” jegyében kép és hang (zenekar, énekesek, táncosok és színes vetített képek) együtt nyűgözték volna le a nézőket, de a premier az első világháború kitörése miatt elmaradt. 1928-ban aztán a Bauhaus biztosított lehetőséget neki arra, hogy első és utolsó színházi produkciójaként színpadra állítsa Muszorgszkij Egy kiállítás képei című darabját. Az előadáson a zongora hangja mellett a zenével összhangban váltakozott a világítás, a díszlet és a vetített képek. Felvétel nem készült, csak Kandinszkij 16 képe és az instrukciók maradtak fenn, az előadást ezek alapján rekonstruálták több évtizeddel később Párizsban.
1928-ban lett német állampolgár. Amikor a nácik 1933-ban bezárták a Bauhaust, Párizsba emigrált.
Élete utolsó évtizedében egy kis párizsi lakásban élt, a francia állampolgárságot 1939-ben kapta meg. Utolsó korszakában az organikus és geometrikus stílust ötvözte, a kemény formák dinamizmusát játékos könnyedség váltotta fel (Égkék). Képein időnként egy kéz vagy arc is felbukkan, jellemző művei az Ibolyaszín domináns, a Domináns ív, a Tizenöt, a Mérséklet és a Fékezett lendület. A kor művészeti áramlataitól egyre jobban elszigetelődő Kandinszkij 1944. december 13-án halt meg a Párizshoz közeli Neuilly-sur-Seine-ben.
Tanulmányaiban a tudományos pozitivizmus kudarcáról írt, és a „fizikai szubsztanciák szimbolikus jellegének” megértésére buzdított. Az absztrakt nagy hatású teoretikusa volt, az „abszolút”, „tiszta” festészet elméletének kidolgozója. Rendkívüli hatást gyakorolt a század festészetére, képei hatalmas összegekért kelnek el: 2023-ban a Murnau templommal II című, 1910-es alkotásáért 44,5 millió dollárt fizettek a Sotheby's árverésén, ami az eddigi rekordot jelenti. (A nácik zsákmányává vált festményt mintegy tíz éve azonosították a hollandiai Eindhoven egyik múzeumában, ahol 1951 óta lógott a falon, és 2022-ben adták vissza az örökösöknek.)
Kandinszkij nevét a Merkúron 2012 óta egy kráter őrzi. A Bauhaus centenáriuma alkalmából több évig tartó felújítás után 2019-ben nyílt meg Dessauban a tervezőiskola professzorainak épített művésztelep egyik világhírű épülete, Kandinszkij és Paul Klee német festő családjának ikerháza. A Google Arts & Culture Sounds like Kandinsky című művészeti projektje Kandinszkij hangjait, formáit és színeit mindenki számára átélhetővé tette 2021-ben.
