Sheffield Ranmoor nevű városrészében született, apja mérnökként dolgozott. Első színészi fellépése a Birkdale előkészítő iskola Karácsonyi ének című előadásában bukással végződött, mármint annyiban, hogy leesett a színpadról. A „bukás” ellenére érdeklődése megmaradt a színjátszás, a komédia és poéngyártás iránt: édesanyjának Shakespeare-műveiből olvasott fel és el is játszotta a jeleneteket, az iskolában pedig osztálytársait szórakoztatta produkciójával.
1962-től történelmet hallgatott az Oxfordi Egyetemen, az itt töltött évek alatt ismerkedett meg Terry Jonesszal, akivel több általuk írt egyetemi darabban is szerepelt. Az egyetem elvégzése után 1965-ben műsorvezetője lett a Most! című humoros pop show-nak, majd 1966-67-ben a Frost-jelentés (Frost Report) című szatirikus szórakoztató televíziós műsor íróstábjának volt tagja, ahol többek között a későbbi Monty Python-tagokkal, Graham Chapmannel, John Cleese-zel, Terry Jonesszal és Eric Idle-lal is együtt dolgozott. Ebben az időben írt Aladdin címmel egy pantomimdarabot, majd Jones és Idle közreműködésével írták és el is játszották A hiba nem az ön készülékében van (Do Not Adjust Your Set) című gyerekműsor epizódjait, amelynek animációit az amerikai Terry Gilliam készítette. Graham Chapmannel és John Cleese-zel a Hogyan bosszantsuk az embereket (How to Irritate People) című műsorban dolgozott együtt, ekkoriban vetődött fel az ötlet, hogy készítsenek saját műsort.
Így született meg a Monty Python Repülő Cirkusza, amelynek animációit Terry Gilliam készítette. Az első részt 1969. szeptember 7-én vették fel és október 5-én került adásba a BBC1-en. Ezt a következő négy szezonban még 44 epizód követte, a jeleneteket többnyire Palin és Jones írták.
A társulat 1975-ben mutatta be első egész estés filmvígjátékát, az alacsony költségvetéssel készült Gyalog galoppot, amelyben minden tag több karaktert személyesített meg, a legtöbb szerepet Palin játszotta. Ezt követte 1979-ben a szintén kultuszfilmmé lett Brian élete című vígjáték, amelyet több országban istenkáromlás vádjával betiltottak. 1983-ban mutatták be Az élet értelme című filmszatírájukat, amely a cannes-i filmfesztiválon elnyerte a zsűri nagydíját, bár a kritikusok a társulat leggyengébb darabjának tartják.
A Monty Python 1983-ban megszűnt, tagjai külön-külön folytatták, de az évek folyamán többször is felmerült az újraegyesülés. Erre 1989-ben egyetlen tévéműsorban sor is került, de Graham Chapman ekkor már gyógyíthatatlan beteg volt és nem sokkal később meghalt. A még élő tagok az első Python-műsor 30. évfordulóján, 1999-ben, majd 2014 júliusában újra összeálltak, ez utóbbi alkalommal a londoni O2 arénában bemutatott búcsúelőadásukat világszerte levetítették.
Palin a Python-filmeken kívül is többször állt kamera elé: 1982-ben A misszionárius forgatókönyvírója és címszereplője volt, szerepelt Terry Gilliam filmjeiben (Időbanditák, Brazil, Jabberwocky), valamint Terry Jones Békavári uraság című alkotásában. Kétségtelen azonban, hogy a legnagyobb nemzetközi elismerést A hal neve Wanda című filmben érte el a dadogós Ken szerepében, amelyért megkapta a legjobb férfi mellékszereplőnek járó BAFTA-díjat is. 2017-ben az Armando Iannucci rendezte Sztálin halála című francia–brit fekete komédiában Molotovot játszotta el.
Michael Palin a nyolcvanas évek elejétől a BBC-nek készít útifilmeket, amelyekben a tőle megszokott humorral, különböző helyzetekbe keveredve mutatja be az idegen földrészeket, településeket, embereket: Utazások a Föld leghíresebb vasútvonalain, 80 nap alatt a Föld körül, Sarkig tárt világ, Utazás a Csendes-óceán körül, Hemingway nyomában, Szahara, Himalája, Brazília. Az Új Európa című sorozatában többek közt Magyarországot is bemutatta.
„.Mindig is felfedező akartam lenni, de 1988. szeptember 25-ig úgy tűnt, nem lehetek több egy nagyon hülyének látszó személynél. De az a nap megváltoztatta az életem. Egy csapással átváltoztam egy nagyon hülyének látszó személyből egy nagyon hülyének látszó felfedezővé” –nyilatkozta egy alkalommal.
2018-ban a világtól elzárt Észak-Koreában forgatott, 2022-ben pedig a világ egyik legveszélyesebbnek tartott országát, Irakot kereste fel. Útifilmes naplói alapján könyvek és hangoskönyvek is készültek, amelyek közül több magyarul is megjelent, emellett pedig a nyolcvanas években több gyerekkönyvet is publikált. Honlapja szerint 2023 szeptemberében jelenik meg a családjának történetével foglalkozó Great Uncle Harry című regénye.
Michael Palin számos rangos elismerés birtokosa: 1986-ban Peter Sellers-díjat kapott, 2000-ben televíziós munkásságáért a Brit Birodalom Érdemrendje Parancsnoki Keresztjét adományozták neki, 2002-ben a British Comedy Awardson életműdíjjal jutalmazzák, 2018-ban pedig II. Erzsébet lovaggá ütötte, így azóta a Sir szócskát is neve elé biggyesztheti. 2009-ben három évre a Brit Királyi Földrajzi Társaság elnökének választották, nevét viseli az 1993-ban felfedezett 9621 Michaelpalin nevű aszteroida.
Fotó: AFP/Valery Hache