Szülei Lengyelországból és Romániából bevándorolt zsidók voltak, ő Brooklyn utcáin nőtt fel. A tanulást nem kedvelte, idejét szívesebben töltötte vidámparkokban, játéktermekben, és arról álmodozott, hogy egyszer Marlon Brando nyomába léphet. Tizenhat évesen beállt tengerészgyalogosnak, három évig szolgált Libanonban. Leszerelése után volt bírósági rajzoló, cipőügynök, közben színészetet tanult a híres Actors Studióban, amelynek aztán 1995 és 2017 között Al Pacino és Ellen Burstyn mellett társelnöke volt.
Kisebb színpadi szerepek után, 1967-ben Martin Scorsese Ki kopog az ajtómon? című első nagyjátékfilmjében állt először kamera elé. A sikert 1973-ban a szintén Scorsese rendezte Aljas utcák hozta meg számára, amelyben hitelesen játszotta el a kulturális örökségével küszködő New York-i olaszt. A rendező szerepeltette a mára kultikussá vált Taxisofőrben is, ahol a Jodie Foster által megformált kiskorú prostituált futtatóját alakította, az Alice már nem lakik ittben pedig a címszereplő szadista udvarlójaként tűnt fel.
Francis Ford Coppola őt szemelte ki az Apokalipszis most főszerepére, de a sikertől megrészegedett Keitel összeveszett vele, ezért közvetlenül a forgatás megkezdése előtt kirúgták – helyére Martin Sheent szerződtették. A kedveszegett színész egy ideig felejthető filmekben tűnt fel, az egyik üdítő kivétel a Zuhanás a szerelembe című, Meryl Streep és Robert De Niro főszereplésével készült romantikus dráma volt. Több európai filmben is szerepet vállalt, a Nyomozás Krisztus holtteste utánban például Pontius Pilátus ruháját öltötte magára. Megfenekleni látszó karrierjén aztán ismét Scorsese lendített, aki 1988-ban a botrányok és viták övezte Krisztus utolsó megkísértésében Júdás szerepét osztotta rá (igaz, játékát a legrosszabb alakításért járó Arany Málna-jelöléssel „honorálták”).
Sikert aratott a híres „női road-movie”, a Thelma és Louise nyomozójaként, 1991-ben legjobb mellékszereplőként pedig Golden Globe- és Oscar-díjra is jelölték a Bugsy című gengszterfilmért. Abel Ferrera Mocskos zsarujában egy drogos detektív volt. Quentin Tarantino Kutyaszorítóban című filmjében nemcsak szerepelt, de első alkalommal vállalt produceri munkát is. A rendező kultikussá vált Ponyvaregényében a „problémamegoldó embert” játszotta, majd az Alkonyattól pirkadatig című rendhagyó vámpírfilmben újra Tarantinóval és Robert Rodriguezzel dolgozott.
A számtalan negatív figura után a Zongoraleckében végre merőben más szerepkörben tűnt fel, és romantikus oldalát is megmutathatta: egy Új-Zélandon élő analfabéta, durva telepest alakított, aki beleszeret egy néma asszonyba. A filmet jegyző Jane Campion rendezőnővel a Szentek és álszentekben is együtt dolgozott. Két újabb krimit követően (Nepperek, Copland) független, elsősorban művészi kihívást jelentő produkciókban játszott (Füst, Egy füst alatt – Beindulva).
A szomorú tekintetű, gyűrött arcvonású Keitel több mint száz filmet forgatott; volt kegyetlen és emberi, hűvös és romantikus, de mindig hiteles és érzékeny maradt. Több más híresség mellett ő is szerepelt a Thornton Wilder Pulitzer-díjas regénye alapján forgatott, Szent Lajos király hídja című filmben, Wes Anderson klasszikusában, A Grand Budapest Hotelben, majd Rachid Bouchareb osztott rá főszerepet filmdrámájában (La voie de l’ennemi / Two Men in Town). 2015-ben az Oscar-díjas olasz Paolo Sorrentino Ifjúság című alkotásában egy filmrendező bőrébe bújt – az elmúlásról és az emlékezésről szóló dráma több Európai Filmdíjat kapott. Az ír című maffiafilmben ismét Scorsesével dolgozott olyan művészek társaságában, mint Robert De Niro, Al Pacino és Joe Pesci (érdekesség, hogy az idős szereplőket a korábban játszódó jelenetekben digitálisan fiatalították meg), majd Václav Marhoul cseh rendező Festett madár című második világháborús drámájában egy katolikus papot alakított. Egyik legutóbbi szerepeként Meyer Lansky ruháját vette magára a maffiózó életéről szóló 2021-es filmben. Az utóbbi néhány évben több tévésorozatot is elvállalt (Mike, The Tattooist of Auschwitz – utóbbihoz készült a Love Will Survive című Barbra Streisand-dal).
Az egyik legkeresettebb karakterszínész egyik kedvenc filmje a Szabó István által rendezett, a művészi és emberi felelősséget vizsgáló Szembesítés, amelyben ő volt a második világháború után kollaborációval vádolt német karmester, Wilhelm Furtwängler amerikai kihallgatótisztje. Sokoldalú tehetségét zenés vígjátékban (Apácashow) és tévésorozatokban is megcsillogtatta; néhány éve a Wes Anderson rendezte Kutyák szigetében az egyik állatnak kölcsönözte a hangját. Jellegzetes arca egy whiskymárka reklámjában is visszaköszönt, és feltűnt az amerikai rapper Jay-Z, valamint Beyoncé egy-egy videóklipjében is.
Keitelt a Berlinalén 1995-ben Ezüst Medve díjjal ismerték el. 2002-ben a moszkvai filmfesztiválon a Sztanyiszlavszkij-iskola hagyományaihoz való hűségéért és színészi pályafutásában elért eredményéért különdíjjal tüntették ki, és több nemzetközi filmfesztivál (Karlovy Vary, 2004; Isztambul, 2005; Locarno, Antalya, 2016) életműdíját is megkapta.
