Csongrádon született, jogi tanulmányait Pesten végezte. A szabadságharc alatt szabadcsapatot szervezett, amelynek őrnagya volt. Ezért a bukás után börtönbüntetést kapott, s besorozták az osztrák hadseregbe. Később Aradon volt ügyvéd, majd 1867-től az Igazságügyi Minisztériumban dolgozott. 1878-ban ő volt a Magyar Jogászegylet megalapítója és első elnöke. Egyik kidolgozója volt az igazságügyi szervezeti törvények tervezetének és az 1871. évi XXXIII. tc-nek az ügyészségi szervezetről, amelynek alapján a bírói hatalom elkülönült a közigazgatástól. Nevét azonban az első magyar Btk., az ún. Csemegi-kódex (1878. évi V. tc.) tette ismertté, mely a kor leghaladóbb eszméit tükrözi. Mint kúriai tanácselnök korszerű eljárásjogi elveket (a vád, a védelem, valamint a kétoldalú meghallgatás elve) vezetett be az akkor még nem kodifikált, törvénybe nem foglalt eljárási gyakorlatba. Kiváló szónok is volt. Budapesten halt meg 1899. március 18-án. 2001 októberében egy róla elnevezett könyvtárat avattak fel szülővárosában.
