Szülei a második világháborúban, a főváros ostroma idején találkoztak és szerettek egymásba: apját repesztalálat érte, s a budai vár alatti Sziklakórházban anyja kötözte be a sebét. László és négy évvel idősebb bátyja, Béla a Várban nőttek fel, s lévén apjuk zenetanár, a családban mindennapos volt a muzsika. László klasszikus zenét, zongorát tanult, de a Beatles és az angolszász beatzene hatására a gitárt is pengette.
Már tizenöt éves korától játszott bátyjával együtt beatzenekarokban, rendszeresen fellépett a Wanderers együttes tagjaként a legendás Horizont Tánciskolában. Nem sokkal később már saját dalokat írt, főleg folk-beat stílusban, s 1967-ben bátyjával és Balázs Gábor bőgőssel megalapították a Tolcsvay Triót. A magyar népzene harmóniavilágát idéző városi dalokat játszó együttesben a fivérek gitároztak és énekeltek, első saját számuk a Ne menj el volt. A Szentháromság téri Várklubban akkoriban hétvégenként a már nagyon népszerű Illés együttes játszott, a szünetekben pedig ők kaptak lehetőséget a színpadon, de akkor még nem is gondoltak arra, hogy ebből éljenek meg.
1970 végén létrehozták a Tolcsvayék és a Trió nevű formációt, amelyben már elektromos hangszerek és dob is szerephez jutottak. Egyetlen, 1972-ben megjelent albumukon a kor három legnépszerűbb énekesnője, Koncz Zsuzsa, Kovács Kati és Zalatnay Sarolta is énekelt, a Boldogtalan vándor, Lá-di-dá, Ne sírj, kedvesem és Szeretni kéne című daluk sláger lett. 1972-től Koncz Zsuzsával és az Illés együttessel KITT-egylet néven léptek fel.
Tolcsvay 1973 végén alapító tagja lett a korszak egyik legfontosabb magyar zenei formációjának, a Fonográf együttesnek. A Szörényi–Bródy-szerzőpárosra alapozott, populáris rockot játszó zenekarban testvérének is helye lett volna, de ő nemet mondott, és a népi muzsikából fakadó vonalat vitte tovább. Tolcsvay a Fonográfban főleg billentyűs hangszereken, emellett gitáron, bendzsón és szájharmonikán játszott, énekelt és dalokat írt, olyannyira, hogy Szörényi Levente mellett a legtöbb zenét ő komponálta. Az együttes olyan örökzöld dalai fűződnek nevéhez, mint Az első villamos, Hunyd le a szemed, Jöjj, kedvesem, Rám vár az élet, emellett sok szép dalt írt Koncz Zsuzsának és Halász Juditnak is.
Amikor először előadta az azóta már legendássá vált szerzeményét az Országos Rendező Irodában a hivatalosságok előtt – elfehéredtek az arcok. A pártállami diktatúra elleni tiltakozások fölerősödése először a március 15-i tüntetéseken vált a szélesebb társadalom számára is láthatóvá, Tolcsvay László dinamikus rockzenei alapokat egyfajta himnikus emelkedettséggel egyesítő kompozíciója hamarosan a szabadságvágy egyik szimbóluma lett.
A Fonográf hiába lett népszerű Kelet- és Közép-Európában, a Nyugatot nem tudták meghódítani, elsősorban menedzselési hiányosságok miatt. Hat stúdióalbum és bő tíz év működés után Szörényi Levente 1984-ben bejelentette a színpadtól történő (mint utóbb kiderült, nem egészen végleges) visszavonulását, ami lényegében a Fonográf végét jelentette, jóllehet az együttes hivatalosan soha nem oszlott fel. Tolcsvay Lászlót ez nagyon mélyen érintette, mindent megtett az együttes feltámasztásáért, 1984-ben a három telt házas Budapest sportcsarnokbeli búcsúkoncert is azt mutatta: van igény a zenekarra. Az együttes 2004-ben, majd 2018-ban adott ismét telt házas koncertet.
A darab nyomán került be a színházi világba, ahol újra közösségben dolgozhatott. A Madách Színház mutatta be 1988-ban a Doctor Herz, 1991-ben a Mária evangéliuma, 1995-ben a Dickens Karácsonyi énekéből készült Isten pénze című musicalt, rockoperát. Tolcsvay szerint a Mária evangéliuma tükrözi a legjobban muzsikusi habitusát, ez a mű fakad leginkább a lelkéből a végtelen szabadságérzet miatt, amit a komponálása közben átélt. A Müller Péter és Müller Péter Sziámi alkotótársakkal létrehozott darabot számos külföldi és hazai színpadon játszották. További balett- és színpadi zenéi: Testamentom, Bábel, ÖrökKörök, Rákóczi fantázia, Ördögölő Józsiás, Vörös és fekete, Egy mondat a szabadságról. 2019-ben tartották az Új magyar rapszódia című szimfonikus művének ősbemutatóját a Margitszigeti Szabadtéri Színpadon.
Saját dalai önálló albumokon jelentek meg (Várd ki az időt, Kapcsolj át, Fehér zaj, T-Monográf, '68), s az FG-4 Illés–Fonográf Emlékzenekarral is fellépett.
A feleségével, Péreli Zsuzsa textilművésszel évtizedek óta a Dunakanyarban élő muzsikus 1989-ben eMeRTon-díjat, 1995-ben Erkel Ferenc-díjat kapott, 1994-ben a Magyar Köztársasági Érdemrend tisztikeresztje kitüntetéssel, 2015-ben a nemzeti hagyományt megújító zeneművészetéért Magyar Örökség díjjal, 2021-ben Prima díjjal ismerték el munkásságát. 2024-ben „a hatvanas évek beatgenerációjának kimagasló egyéniségeként, a Tolcsvay Trió és a Fonográf együttesek tagjaként, illetve a Magyar Mise, a Mária evangéliuma és a Nemzeti dal zeneszerzőjeként a magyar zenekultúrát egyedülállóan formáló és gazdagító előadóművészi munkája elismeréseként” Kossuth-díjat vehetett át.
