Weisz Erik néven jött a világra Budapesten sokgyermekes rabbi fiaként. A család négy évvel később kivándorolt Amerikába, egy ideig a wisconsini Appletonban éltek, majd 1882-ben New Yorkba költöztek. Erik újságot árult, cipőt pucolt, és kilencévesen a „trapéz hercegeként” debütált a színpadon. Tizenkét évesen megszökött, beállt egy vándorcirkuszba, de aztán hazatért, hogy a szüleit segítse. Ifjúkorától edzette magát, futott, úszott, bokszolt – ennek köszönhette fizikumát és kitartását, amelyeknek később nagy hasznát vette.
Bűvészpályafutását 17 évesen kártyatrükkökkel kezdte, de már szabaduló mutatványokkal is próbálkozott. Apja a következő évben meghalt, ezután kizárólag a bűvészkedésnek élt. A Houdini művésznevet a francia Jean-Eugène Robert-Houdin, az első modern bűvész iránti tiszteletből vette fel. (Később kiábrándult példaképéből, 1908-ban egész könyvet szentelt mítosza lerombolásának.) Az akkor még csak vándorcirkuszokban fellépő fiatalember 1893-ban ismerkedett meg Wilhelmina Rahnerrel, aki a felesége és Bess Houdini néven színpadi asszisztense lett.
Houdini 1899-ben találkozott Martin Beck impresszárióval, akinek javaslatára műsorában a szabadulós mutatványokra helyezte a hangsúlyt. Beck varietékbe szerződtette, majd 1900-ban európai turnéra vitte. A Scotland Yard bilincséből való kiszabadulásáért egy féléves szerződés mellett háromszáz fontos heti gázsit kapott, és bilincskirályként kezdték emlegetni. Bejárta Európát, mutatványaihoz a helyi rendőrség asszisztált zárral, bilinccsel és börtönnel; sokszor meztelenre vetkőztették és megmotozták, de ő mindig kiügyeskedte magát. 1904-ben gazdagon tért vissza New Yorkba, és huszonötezer dollárért vett házat.
Mutatványai Amerikában is vonzották a nézőket, 1908-tól – az utánzók nagy száma miatt – műsorszámait a láncos-kényszerzubbonyos szabadulások helyett a zárt terekből való kijutásra építette. Első ilyen jellegű attrakciója a vízzel telített, kívülről hermetikusan lezárt, óriás tejeskannából való szabadulás volt, erre a hátborzongató „A kudarc: fulladásos halál” szlogennel csalogatta a közönséget. Houdini koporsóból, szekrényből, vízzel feltöltött fülkéből, földdel betemetett gödrökből, sőt még egy partra vetett bálna gyomrából is kijutott.
Sikerét élénk képzeletének, hatalmas testi erejének, rugalmasságának és hajlékonyságának, valamint a zárak, csomók és egyéb szerkezetek felnyitásában szerzett különleges jártasságának köszönhette. Mindemellett lélegzetét akár négy percig is vissza tudta tartani, de élete még így is sokszor csak pillanatokon múlt, kiszabadulása után többször elájult. Trükkjeit néhány kivétellel (például a híres elefánteltüntetés) maga találta ki, a legnehezebbek megoldásába csak négy segítőtársát avatta be. Titoktartása miatt legtöbb szabadulásának rejtélyét sohasem fejtették meg. A táskakirály Louis Vuitton kétrugós csatos zárral ellátott szuperbőröndjéből való szabadulásra azonban a felajánlott szép summa ellenére sem vállalkozott.
A legjobban fizetett amerikai illuzionista nevével fémjelzett show-műsorokra tolongtak a nézők. A mutatványokra való felkészülés mellett arra is maradt ideje, hogy könyveket írjon, kipróbálja a repülést, és filmet forgasson (2015 márciusában került elő elveszettnek hitt első filmje, a The Grim Game). Meggyőző erejét latba vetve, vagyonát nem kímélve munkálkodott a bűvészek önszerveződésén, 1917-től az Amerikai Bűvészek Társaságának elnöke volt. 1923-ban Amerika legrégibb – és ma is működő – bűvészcége, a Martinka and Co. elnökévé választották.
Illuzionistaként nem hitt a „természetfölötti” erőkben. Kampányolt a hiszékenység, a sarlatánság ellen, spirituális szeánszokra járt álruhában, és ott helyben le is leplezte a csalókat. A témáról a Csodavigécek és módszereik, illetve az Egy bűvész a szellemek között címmel írt könyvet. Feleségével mégis vállalkozott egy spiritiszta kísérletre: megállapodtak abban, hogy amelyikük előbb meghal, megpróbál kapcsolatba lépni életben maradt párjával; özvegyének nem sikerült a kísérlet.
Houdini éppen szenzációs új műsorára készült, amikor halloween napján, 1926. október 31-én meghalt egy detroiti kórházban. Halálát hivatalosan perforálódott vakbél kiváltotta hashártyagyulladás okozta.
Állítólag utolsó fellépése előtt, október 22-én Montrealban két diák kereste fel öltözőjében, és amikor Houdini azzal dicsekedett, hogy minden ütést kiáll, egyikük figyelmeztetés nélkül kétszer erősen hasba vágta. A mágus, akinek nem volt ideje erre felkészülni, már óriási fájdalmak között adta elő műsorát, és utána nagyon rosszul érezte magát, mire kórházba került, már nem tudtak segíteni rajta. Ám sokan úgy vélik, hogy az általa ostorozott spiritualisták, akik korábban többször is életveszélyesen megfenyegették, mérgezhették meg. Holttestét, amelyet az új műsorához előkészített koporsóban szállítottak haza, boncolás nélkül temették el, és bár 2007-ben felmerült az exhumálás gondolata, erre máig nem került sor.
Houdini 1975-ben posztumusz kapott csillagot a Hollywoodi Hírességek sétányán, alakját regényekben (például Doctorow Ragtime című művében) és filmekben is megidézték. Az 1953-as Houdini-filmben Tony Curtis, a 2014-es amerikai tévésorozatban a szintén magyar gyökerű Adrien Brody alakította. 2023-ban Dua Lipa is megénekelte a nevét. Hagyatékát Las Vegas-i bűvészközpontjában féltve őrzi a világhírű illuzionista, David Copperfield. David Merlini szabadulóművész kezdeményezésére halálának kilencvenedik évfordulója alkalmából, 2016 júniusában a budai Várnegyedben is megnyílt a Houdini Ház.