Kolozsvárott született, családja a második világháború végén költözött Budapestre. Eredetileg írónak, festőnek készült, de apja tanácsára ösztöndíjasként az Építőipari és Közlekedési Műszaki Egyetem Építész Karára (ma Budapesti Műszaki és Gazdaságtudományi Egyetem) iratkozott be. Diplomáját 1958-ban szerezte meg, és ekkor került a Lakótervhez, ahol csaknem harminchat évig dolgozott tervezőként, műteremvezetőként, majd igazgatóhelyettes-főépítészként. Közben 1958-60-ban elvégezte a Magyar Építőművészek Szövetségének Mesteriskoláját is.
A kitüntetést 1972-ben ismét megkapta, 1970-ben az Állami Díjat, 1982-ben a Pro Urbe Budapest díjat vehette át. 1996-ban Kossuth-díjat, 1997-ben Köztársasági Elnöki Aranyérmet, 1998-ban Steindl Imre-, 2007-ben Prima Primissima díjat kapott, 2009-ben lett Budapest díszpolgára. A Magyar Érdemrend középkeresztjével 2013-ban tüntették ki, 2014-ben a Nemzet Művésze címet ítélték oda neki.
Finta József nevét Budapesten megvalósult munkái tették Magyarországon és külföldön is ismertté. Ő tervezte a Duna-parti új szállodasor első épületét, az 1969-ben átadott Duna InterContinental (ma Budapest Marriott Hotel) szállodát, az első világszínvonalú hotelt a szocialista Magyarországon, amelynek érdekessége, hogy minden szobája a Duna felé néz.
Sorra kapta a megbízásokat, ő készíthette el több szálloda tervét, ezek között van az egykori Volga Szálló (2012-ben lebontották), a Duna-korzón a Forum (ma InterContinental Budapest), a Déli pályaudvar melletti Buda Penta (ma átépítés után Mercure Budapest Castle Hill), a Váci utcában álló Taverna (ma Mercure Budapest City Center), az Erzsébet téri Kempinski (ma Kempinski Hotel Corvinus) és az Alkotás utcában lévő Novotel szálloda (ma Novotel Budapest City), de az ő munkája a Budapest Kongresszusi Központ és a Nemzetközi Kereskedelmi Központ is. Több szálloda épült tervei alapján külföldön, így Pozsonyban, Bécsben és Brnóban is.
1995-ben önálló irodát nyitott Finta és Társai Építész Stúdió néven, ezután tervezte Budapesten a Szabadság téri Bank Centert, a Teve utcai rendőrpalotát, a lágymányosi egyetemi városban a Budapesti Műszaki Egyetem (BME), illetve az Eötvös Loránd Tudományegyetem (BME-ELTE) informatikai épületét és az 1999 végén átadott WestEnd City Centert. A stúdió munkája az esztergomi Aquasziget és a Hotel Aqua Palace, az Allee Újbuda Városközpont, az Eiffel Tér Irodaház a Nyugati pályaudvar mellett.
Őt bízták meg a pesti Duna-parton álló, a Nemzeti Színház közelében épülő Millenniumi Városközpont tervezésével, de az ide szánt épületek nagy része papíron maradt.
Finta József az építészet elméleti kérdéseivel is foglalkozott, több szakkönyvet írt, a műszaki tudományok doktora címet is megszerezte. A Magyar Tudományos Akadémiának 1985-től volt levelező, 1993-tól rendes tagja, 1992-től tagja volt a Magyar Művészeti Akadémiának (MMA), 1990-ben az Egyesült Államok Építészeti Intézete tiszteletbeli tagjai sorába választotta. 1985-ben címzetes egyetemi docenssé nevezték ki, 1993-ban a Budapesti Műszaki Egyetem címzetes egyetemi tanára, 2009-ben a Pécsi Janus Pannonius Egyetem (ma Pécsi Tudományegyetem) díszdoktora lett. Tagja – többször elnöke – volt a BME és a pécsi egyetemi építészkar diploma- és DLA-bizottságának, valamint a Professzorok Batthyány Körének, 2005-től az akkor létrehozott Nemzeti Konzultációs Testületnek.
Munkásságát magyarországi és külföldi kiállítások mutatták be. Az építészszakmát egy legendás modernista generációtól tanulta, majd alkotásai révén vált ő is annak teljes jogú tagjává. Nem a pillanatnak tervezett, egész életében a hosszú távon érvényesnek tartott értékeket kutatta.
Egy építészkritikus azt írta: a 19-20. század fordulója óta nem volt magyar építész, akinek nála nagyobb hatása lett volna a főváros városképére. 2013-ban ÉletRajz címmel a Duna Palotában, 2014-ben Szabad•kézzel címmel a Vigadó Galériában rendeztek kiállítást útirajzaiból és építészeti grafikáiból.
Finta József 2024. január 7-én hunyt el Budapesten. Idén jelent meg az életművét feldolgozó, Finta József építészete című kötet az MMA Kiadó monográfiasorozatában Dénes Eszter tollából.