Apja főhadnagy volt a Don Miguel ezredben 1841-ben bekövetkezett haláláig, anyja Horhy Katalin volt. Horhyék házában nyerte hazafias és európai látkörű nevelését. Középiskoláit szülővárosában (1848-54), a gimnázium VII. és VIII. osztályát a pesti piaristáknál (1854-56) végezte. 1856-60-ban a pesti, müncheni és berlini egyetemeken tanult, 1861-ben a jénai egyetemen bölcsészdoktori oklevelet szerzett. 1861-64-ben Közép-Európában és Nagy-Britanniában folytatott tanulmányokat. 1868-72-ben, 1875-78-ban a 48-as párt programjával a székesfehérvári választókerület, 1875-94-ben a Szabadelvű Párt programjával a budapesti terézvárosi választókerület országgyűlési képviselőjének választották. Parlamenti működése alatt a ház közoktatásügyi bizottságának volt eleinte tagja, később évről-évre elnöke. Beszédei nagyrészt a kultúrpolitikára vonatkoznak. Ez idő alatt az államjoggal is behatóbban foglalkozott. Hazánk politikai intézményeinek európai színvonalra emelését célozta: például a választási bíráskodás kúriai jogkörbe utalása, közigazgatási bíróság felállítása, a tisztviselők minősítésének törvényben szabályozása, a földművelési minisztérium különválasztása a kereskedelemügyitől, a királyi tábla széttagolása, a főrendiház átalakítása modern felsőházzá a közéleti kiválóságok bevonásával, vármegyei, városi, törvényhatósági közkönyvtárak alapítása, a progresszív jövedelmi adó behozatala, általános szavazati jog stb. A 70-es évek közepén fordul figyelme a görög államintézmények felé. Tiszteleti tagja volt az országos középiskolai tanáregyesületnek és számos népnevelési egyesületnek. 1894-től haláláig a budapesti egyetemen az ókori történelem nyilvános rendes tanára.
Behatóan foglalkozott az ókori állami intézmények kialakulásának és fejlődésének történetével. Az ókori görög történelemre vonatkozó kutatásai nemzetközi figyelmet keltettek. A demokráciáról írt műve első kötetével (Die Demokratie von Athén, 1882.) egészen új alapokra fektette a görög élet és görög állami intézmények ismeretét; második kötetében pedig (Die römische Massenherrschaft, 1899.) a római köztársaság korát tette éles kritika tárgyává. A hat kötetre tervezett nagy munkából csupán e két rész készült el. Ókori történeti tárgyú munkáiban a társadalmi változásokat a politikai intézmények átalakulásával szoros kölcsönhatásban szemlélte, s nagy jelentőséget tulajdonított a történeti folyamatok elemzésekor az egyes alkotmánytörténeti korszakok természetének. Államtörténeti, alkotmánytörténeti, összehasonlító alkotmánytannal, államformatannal foglalkozó tanulmányai, saját államtipológia kidolgozására tett kísérlete az önálló politikatudomány megteremtésének igényével születtek. Ezen írásaiban, ha kritikai vagy történeti elemzések keretében is, de olyan kérdéseket vizsgált, mint a képviseleti rendszer, a miniszteri felelősség, a hatalmi ágak elválasztása vagy a szabadságjogok érvényesülése. Azzal, hogy a politikai rendszereket, s nem csupán az egyes államformákat, több szempont alapján osztályozta, megpróbálta kora divatos államformatani rendszerezéseit meghaladni. Művelődéspolitikai elvei az ország polgári átalakulását szolgálták. Szorgalmazta az állami iskolák számának növelését, az oktatásban a szabad verseny megvalósítását, a teljes tanszabadság megőrzése mellett. Külön figyelmeztetett a tehetségekkel való törődésre. A műveltség terjesztésében és színvonalának emelésében látta a társadalom demokratizálásának eszközét.
1865-68-ban az általa alapított Új Korszak című közművelődési folyóirat szerkesztője. A párizsi Académie Nationale tagja, s az Országos Köznevelési Egyesület elnöke. Egyúttal a londoni antropológiai és etnológiai társaság, valamint a francia geológiai társaság tagja. Az MTA levelező tagja 1864. január 20-tól, rendes tagja 1887. május 13-tól. Akadémiai székfoglalóját Az embernem úgynevezett egységéről címmel tartotta 1864. márc. 21-én, illetve Lucius Cornelius Sulla a római alkotmányjog történelmében címmel 1887. október 10-én (Bp., 1887. MTA. Értekezések a Társadalmi Tudományok köréből, 9. köt.).
Fő művei: Magyar író külföldön. Szent-Katolna álnéven. I-II. Pest, 1865.; A közoktatásügyi reform keresztülvitelének lehetőségeiről Magyarországon parlamenti központosítás segélyével. Pest, 1865.; Két röpirat a közoktatás körül. Pest, 1866.; A közoktatásügyi reform, mint politikai szükséglet Magyarországon. Pest, 1868.; Magyarország helyzete a reálunióban. Pest, 1869., németül, 1870.; Államintézményeink és a kor igényei. Pest, 1871.; Az athenei alkotmányjog történetének korszakairól. Bp., 1879.; A politika elemei. Bp., 1881.; Die Demokratie. I-II. Leipzig, 1882-98.; A miniszteri felelősség eredete az európai alkotmánytörténelemben. Bp., 1883.; Sallustius államformái és a görögök politikai irodalma. Bp., 1885.; További adalékok a görögök politikai irodalmának kritikai történetéhez. Bp., 1886.; Montesquieu elmélete. Bp., 1885.; Melyik görög állam közelítette meg leginkább a képviseleti rendszer alapgondolatát? Bp., 1886.; Gondolatszabadság és ódon tömeguralom. Bp., 1886.; Az athenei állam és társadalmi jelentősége. Bp., 1887.; Adalék a római alkotmánypolitikához és államjoghoz. Bp., 1888.; Tudomány és társadalom. Bp., 1888.; Kritik der Staatsformen des Aristoteles. Leipzig, 1891., 2. bőv. kiad. 1901.; Montesquieu und die Verantworüichkeit der Ráthe des Monarchen in Aragonien, England, Ungarn, Siebenbürgen und Schweden. Leipzig, 1892., 2. kiad. 1901.; Elemente der Politik. Berlin, 1895.; Görög történelem, különös tekintettel az athéni történelemre. Bp., 1900.; Schvarcz Gyula. Vál., bev., jegyz. Miru György. Bp., 2000.
Róla szóló irodalom: Schvarcz Gyula. Századok, 1900.; Hornyánszky Gyula: Schvarcz Gyula emlékezete. Bp., 1901.; Nagy László: Schvarcz Gyula mint kultúrpolitikus. Bp., 1902.; Muhy János: Schvarcz Gyula kultúrpolitikai törekvései. Acta Universitatis Szegediensis Sectio Paedagogica et Psychologica, 1956.; Ravasz János: Néhány adalék a magyar nevelésügy historiográfiájához. Neveléstörténet és szocialista pedagógia. Bp., 1969.; Miru György: Polgárosodás és alkotmányos átalakulás Schvarcz Gyula politikai gondolkodásában. Debrecen, 1997.; Miru György: Kísérlet az állam körül. Schvarcz Gyula reformtervei a dualizmuskori alkotmányosság továbbfejlesztésére. Aetas, 1999.
