Az alsó-szászországi Braunschweigben született 1777. április 30-án, apja hentes, kertész, kőműves volt, mikor hogy hozta a sors, anyja még írni-olvasni sem tudott. Tehetsége korán megnyilatkozott, a legenda szerint háromévesen már kijavította apja számítás közben elkövetett hibáit, s hatévesen, amikor tanára azzal akarta lefoglalni a diákokat, hogy adják össze egytől százig a számokat, a kis Gauss másodpercek után megmondta az eredményt. (Felismerte ugyanis, hogy a sor két végén lévő számok összeadása ugyanazt az összeget adja, a végeredmény 5050.) Elképesztő memóriával volt megáldva, nemcsak a függvénytáblázatot tudta fejből, de olyan haszontalan adatokat is, mint a híres emberek életkora napokban.
1799-ben az algebra alaptételének bizonyításáért kapott doktorátust – a komplex számokat egyébként csak 1831-ben definiálta, előtte mesterien megkerülte a kérdést. A számelmélet kezdetét 1801-es Disquisitiones Arithmeticae (Számelméleti vizsgálódások) című művétől számítják. Ő igazolta, hogy a természetes számok csak egyféleképp bonthatók prímtényezőkre. Körzővel és vonalzóval tizenhétszöget szerkesztett, s számelméleti úton bebizonyította, mely szabályos sokszögek szerkeszthetők ilyen módon. 1801-ben részt vett a szem elől vesztett Ceres kisbolygó fellelésében, Gauss a pálya hat jellemzőjét számításba véve jelezte a bolygó „feltalálási helyét”, és kidolgozta a perturbációelméletet (a bolygók pályájában más égitestek hatására jelentkező zavar).
Gauss 1807-ben a Göttingeni Egyetem professzora és a csillagvizsgáló igazgatója lett. Geodéziával is foglalkozott, feltalálta a forgatható naptükröt, kidolgozta a Gauss-féle hibagörbét a természeti jelenségek normális eloszlásának jellemzésére, megalkotta a görbült felületek elméletét; az ő eredményeire épített Einstein az általános relativitáselméletében.
Amikor levelezésében (a korabeli tudósok így tartották a kapcsolatot, osztották meg eredményeiket) nemeuklideszi geometriáról esett szó, azt írta: ezzel ő már régen foglalkozik, s mások ne tegyék ezt, mert kevesen értenék meg. Barátja, Bolyai Farkas 1831-ben elküldte neki a fia, János abszolút geometriáját részletező Appendixet (Bolyai rendszere az euklideszi és a nemeuklideszi geometriát is magában foglalja). Gauss ezt felelte: „ha dicsérném, az azt jelentené, hogy magamat dicsérem, mert a mű egész tartalma, az út, melyet fiad követett, és az eredmények, amelyre jutott, majdnem végig megegyeznek részben már 30-35 év óta folytatott elmélkedéseimmel.” Nyilvános véleményt azonban nem adott, amivel nagyban hozzájárult a Bolyaiak tragédiájához.
Gauss kidolgozta az elliptikus függvények elméletét s a lineáris egyenletrendszerek megoldását. Hidrodinamikai kutatásai az energiamegmaradás elvének kidolgozását segítették, elektromágneses vizsgálatai eredményei révén jött létre az elektromos távíró. 1839-ben Mihail Osztrogradszkij nyomán megalapozta a potenciálelméletet, a távolság négyzetével fordítottan arányos erők tanát, s kidolgozta a CGS fizikai mértékrendszert (cm, g, sec). A mágneses és az elektromos fluxusra (az erőtér egységnyi felületét metsző erővonalak száma) vonatkozó tétele az elektromágnesesség alapképleteibe, a Maxwell-egyenletekbe épült be. A biztosításban a díjakat a halálozási arány és a valószínűségszámítás alapján állapította meg.
A leghíresebb tudományos társaságok, így a brit Királyi Társaság és a Francia Akadémia tagja volt, megkapta a Becsületrendet, 1849-ben Göttingen díszpolgára lett. 150 dolgozata nagy hatással volt a matematikára, jóllehet sok fontos művét nem publikálta, mivel nem feleltek meg három elvének: Keveset, de éretten; mindent be kell fejezni; abszolút pontosság. Már életében – Isaac Newton és Arkhimédész mellett – a matematikusok fejedelmének tartották. Egy anekdota szerint az 1850-es évek elején a nagy német tudós, Alexander von Humboldt Párizsban járva megkérdezte egy francia kollégáját: Ki Németország legnagyobb matematikusa? – Pfaff, hangzott a válasz. – És Gauss? – kérdezte megütközve Humboldt. – Ő a világ legnagyobb matematikusa – felelte a francia.
Elméje soha nem nyugodott, a hatvanon is túl járt, amikor megtanult oroszul. Életében a munka volt az első, ami emberi kapcsolatai rovására ment: a híres, bár nem hiteles anekdota szerint,
Életét személyes tragédiák terhelték, mindkét felesége fiatalon halt meg, hat gyermeke közül csak egy élte túl.
Minden idők egyik legnagyobb matematikusa 1855. február 23-án halt meg Göttingenben. Szülővárosában álló szobrának talapzata egy tizenhétszögű csillag. Számtalan intézményt, a Holdon krátert és egy kisbolygót is elneveztek róla, a CGS mértékegységrendszerben az ő nevét viselte a mágneses indukció mértékegysége.
