Az 1073. április 22-én pápává választott VII. Gergely kemény kézzel látott neki a reformoknak. Már 1074-ben eltiltotta a szolgálattól a nős és simóniás papokat, 1075-ben megtiltotta, hogy a laikusok egyházi hivatalt adományozzanak, és külön rendeletben azt is, hogy a német-római császár az invesztitúrát gyakorolja. IV. Henrik ennek ellenére a régi mód szerint nevezte ki a kölni és a milánói érseket, sőt, a feldühödött uralkodó Wormsba birodalmi gyűlést hívott össze, ahol a német püspökök letették VII. Gergelyt, aki "már nem pápa, hanem ravasz barát". A Szentatya válaszul a legfélelmesebb fegyverhez nyúlt: kiközösítette a császárt, alattvalóit pedig felmentette hűségesküjük alól. Mivel a német fejedelmek az alkalmat megragadva úgy döntöttek, hogy ha Henrik a kiátkozás évfordulóján sem lesz tagja az egyháznak, a trónt üresnek tekintik, az uralkodónak meg kellett alázkodnia. Így IV. Henrik elzarándokolt Canossa várába, ahol a pápa éppen időzött és a fagyban egy szál csuhában, mezítláb vezekelt három napig a bezárt kapu előtt - azaz Canossát járt. A pápa kénytelen volt megadni a feloldozást a "bűnösnek", noha tudta, hogy az hatalmát visszanyerve még ádázabb ellenfele lesz.
