Házasságon kívül született a Békés vármegyei Endrődön egy gazdálkodó és egy felszolgáló kapcsolatából. Nevelőapja Rózsahegyi Ödön színész és daltársulati igazgató volt, akinek vándortársulatával állandóan költözött a család. A kis Kálmánnak így csodás gyermekkor adatott: az iskolába be sem íratták, írni-olvasni anyjától tanult meg. Így emlékezett vissza erre az időszakra: „Faluról-falura jártunk – szép időben, rossz időben, hol szekéren, hol gyalog, fagyban, sárban, hóban, hordókra épített színpadon, kocsiszínben, kocsmák ivójában – nagy nélkülözések között, de rendíthetetlen hittel hintettük a magyar szót... a színészetnek minden lépcsőjét bejártam... játszottam, színlapot árultam, összeszedtem a kellékeket, széket, padokat, lócákat cipeltem, lámpát pucoltam, színpadot söpörtem, és sokat, nagyon sokat koplaltam, és nagyon keveset aludtam.” A színpadon tehetségesnek bizonyult, már egész kicsi korában fellépett, és ahogy cseperedett, egyre nagyobb feladatokat kapott. Útját egészen a Színiakadémiára való beiratkozásáig egyengették, diplomáját 1892-ben kapta meg.
Az oklevél átvétele után három éven át a debreceni közönség előtt szerepelt. 1896-ban a Kolozsvári Nemzeti Színházhoz szerződött. 1898-ban a Beöthy László vezette fővárosi Magyar Színházhoz került, s amikor Beöthy a Nemzeti Színház igazgatója lett, őt is magával vitte. Rózsahegyi 1900. november 2-ától 1935-ös nyugdíjazásáig kitartott az ország első színházánál, ahol 1923-ban megkapta az örökös tag címet.
Jelenléte új stílust vitt a Nemzeti színpadára. Népszínművek, parasztdrámák, vidéki környezetben játszódó vígjátékok szerepeit alakította a leghitelesebben (A falu rossza, Piros bugyelláris, Te csak pipálj, Ladányi), de emlékezeteset tudott nyújtani klasszikus drámai szerepekben is, mint Tiborc (Katona József: Bánk bán), sírásó (Shakespeare: Hamlet), a Bolond (Shakespeare: Lear király), Zuboly (Shakespeare: Szentivánéji álom).
A klasszikusokat nem nagyon szerette, mert nehezen tanulta a veretes mondatokat. Híres volt arról, hogy nemigen vette szentírásnak a szöveget – ha úgy érezte, hogy saját szavaival megfelelőbben ki tudná fejezni érzéseit, a végsőkig küzdött, veszekedett igazáért. Ma már színháztörténeti epizód, amikor a pályakezdő Rózsahegyi Gárdonyi A bor című darabjában elsőként köpött igazi nyállal a Nemzeti Színház színpadára. A tajtékzó rendezőnek azt válaszolta: „Bocsánat, rendező úr, ez nem színpad. Ez most Baracs gazda portája!” Minden műfajban otthon volt, szépen énekelt és kitűnően táncolt is.
Az 1910–20-as években népszerű kabarészínész is volt: 1915-től a Modern Színpadon, 1917 és 1922 között az Apolló Kabaréban játszott, két évig az Apolló művészeti vezetőjeként, 1922-ben az Emke Kabaré igazgatójaként is működött. Egyszerű, természetes, közvetlen játékát számos magánszínházban is élvezhették a nézők. 1914-ben lépett először kamera elé, aztán a harmincas évektől számos filmsiker részese volt: Süt a nap, A cigány, A tanítónő, Állami Áruház, Liliomfi, Mese a 12 találatról, Micsoda éjszaka.
Népszűségét mutatja, hogy ötvenedik születésnapjára rajongói egy családi házzal szerették volna meglepni, melyre gyűjtést indítottak. A terveket Lechner Jenő készítette el 1923-ban, és zseniális ötletével, remek stílusérzékével pazar luxusvillát alkotott.
Feleségével, Hevesi Angélával együtt 1909 óta vezette magán-színiiskoláját, ahol öt évtizeden keresztül számos kitűnő színészt nevelt, a többi közt Lázár Máriát, Mezei Máriát, Pécsi Sándort, Ráday Imrét, Rátonyi Róbertet, Komlós Jucit, Egri Istvánt, Görbe Jánost, Sztankay Istvánt, Mécs Károlyt, Madaras Józsefet, Sas Józsefet, Hofi Gézát. Az iskola vezetését később színésznő lánya, Marika vette át (újságíró fia a második világháborúban halt meg).
A háború idején nem léphetett színpadra, az egyik legnagyobb magyar parasztszínész ugyanis zsidó anyától született, és nevelőapja is ehhez a felekezethez tartozott. 1945-ben a Nemzeti új, kommunista igazgatója, Major Tamás akadályozta meg visszatérését a színházba. A páratlanul népszerű színészt a színjátszás peremére igyekeztek szorítani, csak néhány alkalommal léphetett fel a Vígszínházban, az Operettszínházban és a Kamara Varietében, utolsó szerepe a Rokonok Berci bácsija volt a Madách Színházban.
A kedélyes, mindenki által kedvelt, jó humorú Rózsahegyi szenvedélyesen vadászott, de csak fácánra és nyulakra lőtt.
Művészi tevékenységéért 1901-ben Farkas–Ratkó-díjat, 1926-ban polgári érdemkeresztet kapott, 1960-ban Kiváló Művész címmel tüntették ki. 1961. augusztus 27-én hunyt el Budapesten. Szülővárosa, a mai Gyomaendrőd ápolja emlékét: a róla elnevezett iskola előtt 2000-ben avatták fel bronzból készült szobrát.
A képen Somogyi Erzsi, Rózsahegyi Kálmán és Petheő Attila (balról jobbra). Fotó: Nemzeti Filmintézet – Filmarchívum
