Tarnówban, Lengyelország osztrák fennhatóságú részén látta meg a napvilágot birtokos nemesi családban. A krakkói katonai iskola elvégzése után, a napóleoni háborúk idején tizenöt évesen állt be tüzérkadétnak, fél év múlva már alhadnagy volt. Részt vett Napóleon 1812-es balsikerű orosz hadjáratában, s megkapta a Becsületrendet. Az Európa térképét újrarajzoló 1814–15-ös bécsi kongresszus után a varsói katonai akadémián tanított, és kikísérletezett egy újfajta röppentyűt. Oroszellenes összeesküvésben való részvételéért 1822-ben egy év felfüggesztett börtönt kapott, ezt követően kilépett a katonai szolgálatból, Galíciába költözött, és Lvivben gőzgépekkel kísérletezett.
Az 1830–31-es lengyel felkelés idején tüzér őrnagyként jelentős szerepe volt az iganei győzelemben, a vesztes osztrolenkai csatában tíz ágyúval szinte az egész orosz sereget fel tudta tartóztatni, megakadályozva a megsemmisítő vereséget. Hőstettéért még a csatamezőn tábornokká léptették elő, Petőfi később Osztrolenka véres csillagának nevezte. Az erdélyi hadsereg című versében így ír róla: „Ott megy ő, a vén vezér, utána / A hazának ifjusága mi, / Igy kisérik a vén zivatart a / Tengerek szilaj hullámai. / Két nemzet van egyesűlve bennünk, / S mily két nemzet! a lengyel s magyar! / Van-e sors, amely hatalmasabb, mint / E két nemzet, ha egy célt akar?”
Varsót azonban már nem tudta megvédeni az orosz túlerővel szemben, a bukás után emigrált. Párizsban matematikát tanított, de dolgozott csirketelepen is. 1832-ben, amikor Dom Pedro brazil császár megkísérelte visszafoglalni Portugáliát, lengyel légiót próbált szervezni az ibériai országban, eközben túlélt egy merényletet is, amikor orosz ügynökök akarták kioltani az életét.
Az 1848-as forradalmak idején Ausztriába ment, az év októberében Bécs forradalmi védőrségének parancsnoka volt. A város eleste és a magyar honvédsereg schwechati veresége után Pozsonyba utazott, ahol Kossuthnak ajánlotta fel szolgálatait. Ekkor már nagy hírnévnek örvendett, de a magyar oldalon nagy számban szolgáló emigráns honfitársaival igen rossz viszonyban volt, mert azok a lengyel ügy elárulásával, illetve arisztokrata hajlamokkal vádolták.
Kossuth a torzsalkodások megelőzése érdekében 1848. november 29-én az ország másik szegletébe küldte, az addig egyik vereséget a másik után elszenvedő erdélyi hadsereg főparancsnokává nevezte ki. Bem szigorú fegyelmet követelve újjászervezte a bomlóban lévő sereget, amellyel a következő hónapokban csodába illő győzelmeket aratott. Tizenháromezer katonája olykor naponta 30-35 kilométert megtéve karácsonykor bevonult Kolozsvárra, újév után Bukovinába kergették Urbán határőreit. Ezután felszabadították a Székelyföldet, majd Puchner egyesült osztrák–orosz erői ellen fordultak. Bem Vízaknánál még vereséget szenvedett a többszörös túlerőben lévő ellenségtől, de február 9-én a piski csatában nem kis személyes bátorságról tanúságot téve fényes győzelmet aratott, s március 15-re, a forradalom évfordulójára Déva kivételével megtisztította az ellenségtől Erdélyt.
Az orosz katonai intervenció után már nem tudott egyesülni Görgei és Perczel Mór seregeivel, s Erdélybe vonult vissza. Itt egy ideig sikerült lassítania a hetvenezres orosz sereg előrenyomulását, de 1849. július 31-én Segesvárnál elvesztette a döntő ütközetet, a csatatéren tűnt el szárnysegédje, Petőfi. Legendás párosuk viszonya már a találkozásukkor megpecsételődött, Petőfi utolsó levelében így ír róla: „Bemmel Bereckben találkoztam; megálltam hintaja mellett, s köszöntem neki, ő oda pillant, megismer, elkiáltja magát és nyújtja felém karjait, én fölugrom, nyakába borultam, összeöleltük és csókoltuk egymást, mon fils, mon fils, mon fils (fiam, fiam, fiam), szólt az öreg sírva. A körülálló népség azt kérdezte Egressy Gábortól, hogy fia ez a generálisnak.” A honvédsereget a nyár végére a Tisza–Maros szögébe összpontosították, de a Görgeiben nem bízó Kossuth az alkalmatlanságáról már többször bizonyságot adó Dembinszkyt nevezte ki fővezérnek. A hibát hibára halmozó lengyelt augusztus 9-én leváltották, helyére Bemet tették meg az összevont magyar seregek fővezérévé. Ekkor azonban már ő sem tudott csodát tenni, az aznap megvívott temesvári csatában a bomlófélben lévő sereg megsemmisítő vereséget szenvedett, maga Bem is súlyosan megsebesült.
A bukás után Törökországba emigrált, ahol – részben azért, hogy a Porta ne adja ki az oroszoknak – áttért az iszlám hitre. Katonai képességeire a Porta is igényt tartott, az immár Murad pasa nevet viselő Bemet a szíriai Aleppóba helyezték. Itt 1850-ben levert egy felkelést, és salétromgyárat alapított, számottevően javítva a hadsereg lőszerellátását. Nem sokkal később, 1850. december 10-én halt meg, vélhetőleg maláriában, de sokan gondolták azt, hogy megmérgezték. Utolsó szavai állítólag ezek voltak: „Lengyelország, nem én szabadítalak fel.”
A kis termetű, de vakmerő és rettenthetetlen Bemet székely katonái bálványozták, jóllehet Bem apónak szinte egy szavát sem értették. Nem is csoda, mert magyarul nem tudott, a németet csak törte, főleg franciául értette meg magát. Sikerének titka a hadvezéri és szervező tehetség mellett a tüzérség kiváló alkalmazása és a csapatok gyors, éjjeli mozgatása volt, rajtaütésszerű támadásaival kerekedett felül a számbeli túlerőn. Győzelmei után kitüntetéseket, előléptetéseket és dupla ellátmányt osztott. Magányos ember volt, azt beszélték: egyetlen szerelme az ágyú.
Hamvait 1929-ben szállították haza Lengyelországba, és Tarnówban temették el. Számtalan szobra áll Lengyelországban és Magyarországon is, 1956. október 23-án Budapesten, a róla elnevezett téren álló szobornál egyesültek a tüntetések, emléke Petőfi verseiben is tovább él.