A bácskai Óbecsén (ma Bečej Szerbiában) született 1828. június 19-én jómódú polgárcsaládban. Német származású apja Than János királyi pénztárnok, egyik öccse Than Károly kémikus, akadémikus volt. Kalocsán járt gimnáziumba, majd Pesten filozófiát és jogot hallgatott. Az egyetemi évek alatt Barabás Miklósnál festészetet tanult, kezdetben akvarell tájképeket készített.
Húszévesen vett részt az 1848–49-es forradalom és szabadságharcban, 1848 júliusában Kossuth Lajos megbízásából megtervezte az első magyar postabélyeget. Három bátyja, Sándor, Ferenc és László Görgei (Görgey) Artúr tábornok seregében, Károly pedig Bemnél harcolt. Ő maga gyenge fizikuma miatt nem vehetett részt a küzdelmekben, de mivel bejáratos volt Görgei főhadiszállására, civilként a sereggel tarthatott, és így sikerült megörökítenie a szabadságharc ütközeteit. Azoknak a csatáknak az esetében, amelyeknél nem volt jelen, a részt vevő tisztek elbeszélésére hagyatkozott. Tizenhárom darabból álló vízfestménysorozata az 1849. február 27-i kápolnai csatával kezdődik, és a szolnoki, a komáromi, a váci, a tápióbicskei, a monostori és más ütközetek jeleneteivel, illetve Buda ostromával folytatódik. A képek stílusa aprólékos, kompozíciójuk nem túl bonyolult, viszont igen mozgalmas, élénk színvilág, a részletek pontos bemutatására való törekvés jellemzi őket. A kor, a helyszínek, a szereplők, a viselet és a fegyverzet hiteles, dokumentumértékű ábrázolása egyedülállóvá teszi a sorozatot. Megfestette Görgei vezérkarának lovas csoportképét is – ennek több változata ismert. A vezérkar tagjairól külön portrékat is készített.
A szabadságharc leverése után Pesten élt, a szabadságharc-sorozat darabjainak másolásából próbált megélni, majd 1851-ben Bécsbe ment, miután a jogi pálya helyett végleg a festészet mellett döntött. A csatákról készült vázlatait is magával vitte, amiből a megtorlás idején nem kis gondjai származtak, egy otthoni levél miatt az osztrák rendőrség házkutatást tartott nála, és elkobozta a politikailag kényes akvarelleket. A Magyar Nemzeti Múzeum Történelmi Képcsarnoka 1898-ban egy bécsi aukción vásárolta meg a sorozatot.
Az osztrák fővárosban sikerült bejutnia a Képzőművészeti Akadémiára, majd Karl Rahl magániskolájában tanult. Ebben az időben főleg portrékat festett, de egyre gyakrabban fordult a régi magyar történelemből vett témákhoz, hiszen a választott témák is egyfajta állásfoglalást-ellenállást jelentettek az osztrák önkényuralommal szemben. Ekkor készítette Nyáry Lőrinc és Pekry Gábor elfogatása című képét, amelyet az első jelentős alkotásának tartanak.
Több tanulmányutat tett Németországban, Párizsban és Rómában 1855 és 1860 között. Párizsban rajzolta híres Mohácsi csata című képét, amelyről több másolat is készült. Hazatérése után műtermet nyitott, nyugodt, szabályos komponálási módjával, sötét színezésével (különösen a falfestészet terén) a legmagasabb színvonalat képviselte.
Lotz Károly mellett dolgozott a Pesti Vigadó lépcsőházi és mennyezeti falképein 1864-től, majd 1870-től együtt készítették a Magyar Nemzeti Múzeum lépcsőházának történelmi témájú falfestményeit.
Than Mór a kereszténység felvételétől a kiegyezésig terjedő korszak eseményeit festette meg. A Magyar Állami Operaház főlépcsőházának aranykazettás tükörmennyezetét is az ő képei díszítik, témájuk a zene ébredésének és hatalmának bemutatása. Dolgozott a budapesti Szent István-bazilika főbejárati előcsarnokának mozaikjain, az ő munkája a belső-ferencvárosi Assisi Szent Ferenc-templom 24 freskója, valamint a Keleti pályaudvar Lotz-termében látható A vasút allegóriája című freskó.
A faliképek mellett további történeti témájú képeket (Attila lakomája, Jelenet az ónodi országgyűlésből, Újoncozás 1848 előtt), portrékat (Liszt Ferenc, Deák Ferenc) és életképeket (Olasz életkép, Fürdő leány) alkotott. Rendszeresen részt vett a Pesti Műegylet kiállításain, 1867-ben a párizsi Salonban Fata morgana című képével aratott sikert, 1873-ban első díjat nyert a történeti festménypályázaton. Szerepet vállalt a művészeti közélet intézményes kereteinek megteremtésében is: egyik alapítója volt az 1869-ben létrehozott Magyar Képzőművészeti Társulatnak.
Szigorú, monumentális művészete azonban egyre inkább háttérbe szorult Lotz játékosabb, könnyedebb ábrázolásmódjával szemben. A mellőzéstől elkeseredve 1885-ben Olaszországba költözött, Velencében és Firenzében élt. 1890-ben tért haza, titkári állást vállalt a Képzőművészeti Társulatnál, így lett 1890 és 1896 között a Nemzeti Múzeum képtárának őre, majd 1896-ban rövid ideig az Országos Képtár igazgatója. Még abban az esztendőben elhagyta Magyarországot, élete utolsó éveit Triesztben töltötte, ahol 1899. március 11-én halt meg.
Művei megtalálhatók a Magyar Nemzeti Galéria, a Magyar Nemzeti Múzeum és több hazai múzeum gyűjteményében. Óbecsén szülőházát felújították, ma emlékházként működik.
