Budapesten született 1952-ben, két évvel idősebb bátyja, Koltay Gábor Balázs Béla-díjas filmrendező, érdemes művész. Már gyermekként a Vígszínház, a Nemzeti Színház, a Katona József Színház előadásain szerepelt. Középiskolai tanulmányait a Szent István Gimnáziumban folytatta, mellette a Bartók Béla Zeneművészeti Szakközépiskolába járt, 1972-ben felvették a Zeneakadémiára, ahol a fuvola tanszakon szerzett diplomát.
1970-től a 25. Színház tagja volt, itt ismerkedett meg Sebő Ferenccel és Halmos Bélával. 1972-ben csatlakozott a Sebő együtteshez, amelyben Koltay fuvolán, dudán, töröksípon és különböző furulyákon játszott. Repertoárjukon magyar és kelet-európai népzene, megzenésített versek, többek között József Attila, Weöres Sándor, Nagy László, Szécsi Margit alkotásai szerepeltek, egyedi előadásmódjuk a középkori énekmondók, lantosok stílusát elevenítette fel. Számos népi hangszert rekonstruáltak, használtak fel (tekerőlant, doromb, duda, citera), rendszeresen jártak Erdélybe, a Felvidékre, Kárpátaljára, a Délvidékre népzenét gyűjteni. Ők voltak a hamarosan országos mozgalommá szerveződött táncház úttörői, részvételükkel a Kassák Klubban igazi klubélet indult el.
Koltay 1976-ben kilépett a zenekarból, és Papadimitru Grigorisszal megalapította a Kormorán együttest.
Először énekelt verseket adtak elő akusztikus kísérettel, majd Koltay javaslatára áttértek az elektromos hangzásra. Magyarországon elsőként ők ötvözték a rockzene és a népzene hangszereit, s azóta jó néhány követőjük akadt, stílusukat folk-rocknak nevezték el. Az együttes jelentős sikert könyvelhet el, több tucat albumuk jelent meg, számos előadónak (Varga Miklós, Deák Bill Gyula, Benkő Péter, Hegedűs D. Géza) készítettek lemezt.
Küldetésüknek tekintik a magyar nyelv ápolását, a hazai népzenei kultúra terjesztését a rock nyelvével kiegészítve.
Számos európai országban felléptek már, eljutottak Kubába, Venezuelába is, folyamatosan koncerteznek a Felvidéken, Kárpátalján, Erdélyben és a Délvidéken. A Kormorán együttest 2001-ben Magyar Szabadság-díjjal, 2006-ban Magyar Örökség-díjjal tüntették ki.
Koltay Gergely 1979-től a Várszínház zenésze volt, 1982-től két évig egy fővárosi zeneiskolában tanított, majd 1986-ig a Kecskeméti Katona József Színház zenei vezetőjeként és karnagyaként dolgozott. 1988-ban lett a Magyar Rádió munkatársa, egy év múlva a Kossuth rádió zenei szerkesztője, majd a szórakoztatózenei szerkesztőség vezetője. 1997–2000 között a Magyar Televízió zenei főszerkesztője, 2004–2007 között a Kossuth Rádió zenei vezetője, 2010-től az MR2 Petőfi Rádió adófőszerkesztője, intendánsa volt. Nevéhez köthető a Minden, ami zene sorozat, a Zeneszombat és a Szombat este zenei szórakoztató műsor.
A nyolcvanas évek óta ír rockoperákat:
A költő visszatér (1988), Elektra (1995), A Napba öltözött leány (2006), Itt élned, halnod kell (2016), Trianon (2018). A 2000-es millenniumi évre készítette el testvérével, Koltay Gáborral A Megfeszített című rockoperát, amely a mai világba transzponált bibliai történetet mesél el. Idén mutatták be a Békéscsabai Jókai Színházban a János vitéz című daljátékot, a Petőfi Sándor születésének 200. évfordulója előtt tisztelgő mű zenei átirata figyelembe veszi Kacsóh Pongrác klasszikus zenéjét, amelyet Koltay Gábor vezetésével folk-rock zenei elemekkel gazdagítva hangszereltek át. Több filmhez is készített zenét (Julianus barát, Honfoglalás, Sacra Corona), talán legismertebb szerzeménye, a Kell még egy szó a Honfoglalás betétdalaként vált népszerűvé. 2020-ban jelent meg A jövő himnuszai címmel szerzői albuma, amely zenei pályafutása összegzésének is tekinthető.
Elektra mindörökké címmel játékfilmet, Titkos szeretők címmel tévéfilmet is rendezett, több dokumentumfilmet is jegyez, és számos film, dokumentumfilm zenéjét szerezte.
Koltay Gábor 1974-ben megkapta A népművészet ifjú mestere címet, 2001-ben Magyar Köztársasági Arany Érdemkereszttel, 2010-ben Budapestért díjjal, 2017-ben a Magyar Érdemrend Lovagkeresztje kitüntetéssel ismerték el. 2019-ben Kossuth-díjjal tüntették ki az ősi magyar monda- és dallamvilág felelevenítésével a hazai zeneművészet tradicionális értékeit egyszerre megőrző és továbbadó, sokoldalú alkotó- és előadóművészi tevékenysége elismeréseként.
Nyitókép: MTI/Cseke Csilla