1917. december 21-én született Kölnben. Apja műbútorasztalos volt, ő maga érettségi után könyvkereskedő-segéd lett. 1938-ban behívták munkaszolgálatra, eközben a klasszika-filológiát tanulmányozta, egy évvel később fegyveres alakulathoz került. Hat évig szolgált a Wehrmachtban, közlegényként, majd tizedesként megjárta a keleti és a nyugati frontot, s mint írta, katona létére azt kellett remélnie: talán elveszítik a háborút.
Az amerikai fogságból szabadulva szülővárosában, Kölnben telepedett le. Bátyja asztalosműhelyében dolgozott, közben folytatta tanulmányait is. Első elbeszélése, A küldetés 1947-ben jelent meg. 1950-től tagja volt a Gruppe '47 csoportnak, s 1951-ben elnyerte annak irodalmi díját. Korai regényei témája a katonaélet reménytelensége és kegyetlensége, a háború a társadalom abszurditásának metaforája: A vonat pontos volt (1949), Ádám, hol voltál? (1951). Ez utóbbi a totális háborúban sodródó, a fasiszta hadsereg szétzúzásában reménykedő, áldozattá váló kisemberről szól.
Másik fontos témaköre a hazatérés, a háború utáni német társadalom állapota, a szétroncsolt életek vergődése, a "rom-irodalom". Első műveinek lírai stílusán még érződik az I. világháború utáni írók, Remarque, Kastner, Fallada hatása, s írásaiban a háború még inkább végzetként, mint emberi cselekvések következményeként jelenik meg.
Az És száját nem nyitotta szóra című, 1953-as regényétől kezdve társadalombírálata határozottabbá, szatirikus hangja erősebbé válik a német gazdasági csoda, annak negatív kísérőjelenségei s a neofasizmus előretörése kapcsán.
Magukra maradtak címmel 1954-ben a támasz nélküli gyermekek nyomorát ábrázolja, akik rádöbbennek: életük értelmét nem lelhetik meg ott, ahol a tegnapi gyilkosok képviselik az erkölcsöt.
Leghíresebb regénye, a Biliárd fél tízkor (1959) építész-dinasztiájának története a fasizmus eredetét kutatja a bismarcki időktől a háború utáni újjászerveződésig.
Egy bohóc nézetei című regényének (1963) hőse alkoholista muzsikus, aki kolduló utcai zenésszé züllik, de nem vesz részt az össztársadalmi megalkuvásban. A regény éles bírálata a közéleti, konformista katolicizmusnak, amely a jobboldal restaurációjának szolgálatába állítja az egyházat.
Legvaskosabb regénye a Csoportkép hölggyel (1971). Itt a címszereplő ismerőseinek beszámolójából kapunk átfogó és ironikus képet a német valóságról, a náci bűnök emlékéről, a fasizmus továbbéléséről, a bűnösök beilleszkedéséről a jóléti társadalomba az I. világháborútól az 1970-es évekig.
Katharina Blum elveszett tisztessége című, 1974-es regénye az újságírás etikáját s a németek értékrendjét elemzi és teszi bírálata tárgyává.
Böll számos hangjátékot, filmforgatókönyvet és esszét is írt. 1971-74 közt a Nemzetközi Pen Club elnöke volt. A Nobel-díjat 1972-ben kapta "korát széles perspektívában ábrázoló, nagy jellemző erejű írásaiért, amelyekkel a német irodalom megújításához járult hozzá".
Böll keresztény és pacifista szemlélettel, moralizálva közelíti meg a német társadalmat. Műveiben visszatér a személyes felelősség vállalása vagy elutasítása, háborúellenes, nonkonformista nézeteit hol ironikusan, hol metsző szatíraként juttatta kifejezésre egyszerű, szigorú, olykor ismétlésekkel nyomatékosított prózai nyelvén. Böll a németek II. világháborús tapasztalatainak kiemelkedő, humanista tolmácsolója. Kritikáját kifejtette mind a háborút túlélő, lerombolt Németországgal, mind a meggazdagodott, anyagi örömökbe felejtkező Szövetségi Köztársasággal szemben.
Életében páratlan tekintélyt szerzett, s bár ellenfelei korábban hazaárulónak, szalon-anarchistának nevezték, később a nemzet lelkiismerete lett, a "kölni jó ember".