Gruberova 1946. december 23-án született Pozsonyban, nagyon szerény körülmények között nőtt fel. Édesapja német, édesanyja magyar származású. A hétköznapok nehézségei elől az éneklés nyújtott menedéket otthon, az iskolai kórusban és később a rádió gyermekkórusában. Egy lelkipásztor biztatására beiratkozott a pozsonyi konzervatóriumba, és 1961 és 1968 között ott tanult, majd a pozsonyi zeneművészet főiskolán.
Ezt követően gyorsan ívelt fel karrierje: a Bécsi Állami Operában debütált 1970-ben Mozart Varázsfuvolájában, az Éj királynőjének szerepében. A nemzetközi hírnevet 1976-ban Richard Strauss Ariadné Naxoszban című operájával szerezte meg, rövidesen már Milánó, New York, Madrid és Párizs operaszínpadain aratott sikert, és Budapesten is többször fellépett. Rendkívüli tehetsége miatt az operarendezők bátran bíztak rá ritkán előadott operákból technikailag nehéz szerepeket is.
Gyakran nevezik a koloratúra királynőjének és a szlovák fülemülének, 2010-ben pedig a Wiener Zeitung ?a belcanto örökös főpapnőjeként? írt róla. ?Az éneklésben mindig menedéket találtam, édesanyám is szeretett énekelni, tőle örököltem a hangomat? ? nyilatkozta egy interjúban. Az énekesnő elmondta, hogy bár az operaszínpadot otthagyja, továbbra is vállalja fiatal tanítványok mentorálását.
