Apja, idősebb Rubik Ernő a legismertebb magyar repülőgép-tervező volt, tőle örökölte a találékony szellemet és a kreativitást, anyjától, a költőnő Szántó Magdolnától pedig a művészi vénát. A képző- és iparművészeti szakközépiskola után a Budapesti Műszaki Egyetemen végzett építészmérnökként 1967-ben, majd az Iparművészeti Főiskolán (ma: Moholy-Nagy Művészeti Egyetem) szobrászatot és belsőépítészetet tanult 1971-ig. Ezt követően építész-tervezőként dolgozott. 1970 és 1988 között az Iparművészeti Főiskolán tanított, geometriás modellek készítésével foglalkozott.
1974 tavaszán oktatási segédeszközként tervezte meg a térbeli mozgások szemléltetésére alkalmas, 27 fakockából készült, mérnöki modellezést segítő szerkezetét. A kocka széleire csupán azért ragasztott színes papírlapokat, hogy egyszerűbben lehessen követni, melyik kis kocka hová kerül. Az oldalanként 3 × 3-as elrendezésben kilenc négyzetet tartalmazó kocka oldallapjai más-más színűek, és három tengely körül forgathatók el. Gyorsan kiderült, hogy a kocka nem csupán szemléltető eszköznek, de logikai játéknak is jó lehet.
Találmányára 1976. október 28-án RU-158 ügyszámon, Térbeli logikai játék néven kapott szabadalmat. A kocka a játékosok körében rövid idő alatt példátlan népszerűségre tett szert, gyártásához és külföldi terjesztéséhez azonban át kellett verekednie magát a hazai bürokrácia útvesztőin, míg végül Rubik-kocka (Rubik’s Cube) néven meghódította a világot. Népszerűsége azóta is töretlen, ötven év alatt félmilliárd darabot adtak el belőle, változatlanul kihívást jelent a matematikusoknak és a játékosoknak egyaránt. Míg az előbbiek a kirakási lépések minimális számát keresve igyekeznek megfejteni a titkát, az utóbbiak a kockakirakási rekordokat próbálják újra és újra megdönteni, hihetetlen eredményeket érve el. Az eredeti, 3 × 3 × 3-as kockának 2023 óta 3,13 másodperc a kirakási rekordja. Magának Rubiknak először egy hónapba telt, míg megoldotta saját találmánya rejtélyét, ami nem rossz teljesítmény, mivel a kockának 43 trillió különböző állása lehet.
1980–81-ben több országban volt az év játéka, később klubokat, egyesületeket, versenyeket és világbajnokságokat szerveztek rajongóinak. 1981-ben a kocka bevonult a New York-i Modern Művészetek Múzeuma építészeti és designgyűjteményébe, 2014-ben pedig bekerült az amerikai játékok dicsőségcsarnokába.
Tervezője a tanítás mellett 1982–83-ban főszerkesztőként jegyezte az ...És játék című lapot, 1983-ban megalapította és azóta is vezeti a játéktervezésre szakosodott Rubik Stúdiót. A kocka után újabb logikai játékokkal jelentkezett, 1977-ben alkotta meg a kígyót, 1985-ben a bűvös négyzetet, majd a bűvös dominót és a Rubik-órát, 2009-ben a Rubik’s 360-at, vagyis a Rubik-gömböt. Ez utóbbiak világszerte kedvelt logikai játékok, de meg sem közelítik az időközben kultusztárggyá vált kocka elsöprő sikerét.
Rubik Ernő 1982-ben innovációs és ösztöndíj-alapítványt, 1988-ban pedig Rubik Nemzetközi Alapítványt hozott létre a kiemelkedő teljesítményt nyújtó diákok támogatására. 1987-től címzetes egyetemi tanár, 1990–1996 között a Magyar Mérnök Akadémia elnöke, 1996 óta tiszteletbeli elnöke.
1983-ban Állami Díjat kapott, 1995-ben Gábor Dénes-díjjal, 2007-ben Kossuth-díjjal tüntették ki. 2008-ban Moholy-Nagy-díjat, 2009-ben Esztergomban díszpolgári címet és Magyar Örökség díjat, valamint a Magyar Köztársasági Érdemrend középkeresztje a csillaggal kitüntetést vehetett át. 2010-ben Prima Primissima díjjal, 2012-ben Hazám díjjal és az Amerikai Magyar Alapítvány George Washington-díjával ismerték el. 2014-ben Budapest díszpolgára lett, ugyanebben az évben megkapta a legmagasabb hazai állami kitüntetést, a Magyar Szent István-rendet, és az elsők között részesült a Nemzet Művésze címben.
A kocka sikere lehetővé tette számára, hogy azt csinálja, amit szeret, ugyanakkor hatalmas lekötöttséggel is járt. A rendszeres tanítást abbahagyta, hogy stúdióbeli munkájával, szoftver- és építészeti témákkal, számítógépes játékokkal foglalkozzon. Találmányáról így vallott: „Nem én vagyok itt a fontos, hanem a kocka. Sőt még csak nem is a kocka, hanem a hatása: hogy miként tudott ennyi emberre és ilyen sokáig hatni, hogyan tudott évtizedeken át, miközben a világ óriásit fordult, ugyanúgy népszerű lenni az új generációk számára is.”
Bűvös kockája a nehezen megoldható, bonyolult problémák kezelésének jelképévé vált, kirakása a kéz, az agy és a memória együttműködését igényli, az időseknél demencia ellen is használják. Filmekben jelent meg a szereplők magas intelligenciájának bizonyítására, képzőművészeti alkotásokat ihletett meg, magazinok címlapfotójaként szerepelt. Az óbudai Graphisoft parkban térplasztikaként a magyar találékonyságot jelképezi. A 2024-es európai uniós magyar soros elnökség logóját is a Rubik-kocka díszíti: 27 kockája a 27 tagállamra, illetve a magyar találékonyságra és problémamegoldó képességre, valamint az európai ügyek bonyolultságára utal.
A kocka születésének negyvenedik évfordulója alkalmából 2014-ben az amerikai Jersey Cityből, a Liberty Science Centerből indult útjára a Beyond Rubik’s Cube (Túl a Rubik-kockán) vándorkiállítás. Itthon a magyar kreativitás napjának megtartásával ünnepelték az évfordulót, a Sziget Fesztiválon pedig kiemelt kocka-programsorozatot tartottak. Idén az ötvenedik évfordulóról itthon és külföldön egyaránt megemlékeztek, a MOME-n Rubik 50/80 címmel szimpóziumot rendeztek. A kaliforniai Palo Altóban tartott rekreációs matematikai tanácskozáshoz videókonferencián a részben Spanyolországban élő feltaláló is csatlakozott.
Rubik Ernővel készített villáminterjúnk itt olvasható.