A Székelyföld szélén fekvő, Brassó vármegyei Kőhalmon (ma Rupea, Románia) született 1910. március 14-én. Gyermekkora szegénységben telt, a családot a trianoni béke után kiutasították Kolozsvárról. Budapesten érettségizett, első diplomáját a Képzőművészeti Főiskolán Rudnay Gyula növendékeként szerezte. Ezután a Pázmány Péter Tudományegyetemen (a mai ELTE) művészettörténetet, néprajzot, régészetet, földrajzot hallgatott és summa cum laude doktorált. A Múzeumi Központban volt előadó, majd a Nemzeti Múzeum középkori osztályának vezetője. A második bécsi döntés után, 1940-ben visszatért szülőföldjére, Kolozsváron lett egyetemi tanár, a honfoglaló magyarok erdélyi megtelepedéséről és művészetéről publikált sokat.
A magyarság szellemi életének meghatározó alakja lett, de 1949-ben távoznia kellett Kolozsvárról.
Itthon nem fogadták tárt karokkal, évekig a Nemzeti Múzeum kiállítási ügyeivel foglalkozott. Katedrát csak 1957-ben kapott, 1980-ig volt a budapesti ELTE professzora. Nemzedékeket tanított-nevelt arra, hogy a tudományos alaposság egyik záloga a kételkedés jogának mindenkori fenntartása. 1970-ben javasolta, hogy a honfoglalást bemutató Feszty-körképet restaurálás után Ópusztaszeren emlékparkban állítsák ki. Élete ettől kezdve összefonódott az emlékpark kialakításával, fejlesztésével.
A honfoglaló magyarság életének avatott ismerőjeként számos könyvet és mintegy 700 tanulmányt, cikket publikált, monográfiáinak nagy része az akkor még nomád életformájú magyarok régészeti hagyatékával foglalkozik.
Szokatlan és merész kérdésfelvetéseire sokakat zavarba ejtő válaszokat adott, így – saját szavai szerint – a régészet persona non gratájának számított.
Hatalmas műve, az először 1944-ben megjelent A honfoglaló magyar nép élete a régészeti néprajz egyik alapműve lett, mert az egyszerű emberek – a köznép – tárgyi emlékeiből sikeresen rekonstruálta az egykori szokások, a hétköznapi életmód számos részletét. Külön monográfiát szentelt a nagyszentmiklósi kincs néven ismert leletegyüttesnek, amelyet honfoglalás koriként határozott meg.
Kolozsvári évei alatt kezdett formálódni benne, és az 1960-as évek közepén dolgozta ki a „kettős honfoglalás” elméletét: eszerint a magyarság egy része már a Kárpát-medencében élt, amikor a 9. század végén az Árpád vezette honfoglaló magyarok ideérkeztek. Úgy vélte, hogy a Kárpát-medence temetőinek régészeti leleteiben 670 körül feltűnő „kései avarok”, vagy ahogy díszítőelemeik nyomán nevezik őket, a „griffes-indások” jelenléte egy nagyszámú nép bevándorlásával magyarázható, amelyet ő a magyarság első betelepedési hullámával azonosított. Elmélete szerint az ismert honfoglalás, amelyről minden igaz, amit eddig tudtunk, tervszerűen és békésen zajlott le, a honfoglaló magyarok a magyar ajkú „kései avarok” települései mellé és nem rájuk települtek. Elméletét a történészek jelentős része nem fogadta el, de termékeny vitákat váltott ki, számos felvetését helytállónak minősítették.
Régészeti és nyelvészeti adatokat felhasználva az 1960-as években felvetette, hogy az uráli őshazát az eurázsiai erdőövezet nyugati részein kell keresni.
Az uráli alapnépességet az úgynevezett szvidéri kultúrából származtatta (ez egy lengyelországi faluról kapta nevét). Álláspontja szerint az egységes nyelvet beszélő, kis területről szétvándorló finnugor ősnép elmélete nehezen igazolható, így az „összekötő nyelv” elméletét támogatta: eszerint uráli ősnyelv nem létezett, sok ősnyelv volt, és a nagy területen szétszórt kis csoportok között egymás megértésére alakult ki egy összekötő, „közös jellegű” nyelv. Úgy vélte, e népek csak nyelvükben rokonok, de embertani és kulturális értelemben nem.
László Gyula képzőművészként is kiemelkedőt alkotott, számos kortársát és barátját rajzolta le, kiállításaival sikert aratott, műveit maga illusztrálta, több diafilmet is rajzolt. Illusztrált régészeti munkái, különösen az Ötven rajz a honfoglalókról ugyancsak népszerűek lettek. „[S]ohasem lettem a leletek fetisimádója. A lelet az élet vetülete volt számomra, amelyben ki lehet bontani egykori mestere és gazdája minden napját. (…) Írtam már valahol, nemes becsvágyam, hogy már életemben névtelenné váljak. Ami munkáimban jó, az észrevétlen beleépül régészetünkbe, köztudatunkba, ami pedig esendő, azt úgyis elemészti az idő” – fogalmazott egy alkalommal. Különös vágyát így magyarázta:
„Ami jó abból, amit csináltam, az menjen át a magyar köztudatba, és nem fontos, hogy ki csinálta. Ami pedig esendő, az úgyis elesik.”
Munkásságáért megkapta a Fitz József-díjat 1988-ban, három évvel később Széchenyi-díjban részesült, a Nagy Lajos-díjat és a Budapestért díjat 1993-ban vehette át, 1994-ben lett a Magyar Művészeti Akadémia (MMA) tagja.
A tudós gyakran tett előadó körutakat Erdélyben, egy ilyen előadása után, életének 89. évében, 1998. június 17-én érte a halál Nagyváradon, sírja a Farkasréti temetőben található. Emlékét dombormű őrzi az ópusztaszeri történeti emlékparkban, 2018-ban avatták fel mellszobrát a Lakitelek Népfőiskolán kialakított Nemzeti Panteonban, Budapesten iskolát neveztek el róla. Az elsősorban róla szóló, Régészeti iskola a kincses városban (1940–1944) László Gyula kolozsvári évei című kötet 2022-ben jelent meg.
A képen László Gyula önarcképrajza.
