Caroline Lucretia Herschel Hannoverben, a Hannoveri Választófejedelemség fővárosában (ma Németország alsó-szászországi tartományának fővárosa) látta meg a napvilágot egy sokgyermekes családban. Apja katonazenész volt, és igyekezett négy fiát és két lányát megfelelő oktatásban részesíteni, a zene, a filozófia és a csillagászat iránti érdeklődése élénk beszélgetésekhez vezetett otthonukban. Anyja vonakodva bár, de elfogadta, hogy a fiúk valamilyen oktatásban részesüljenek, azt viszont ellenezte, hogy lányai a házimunkán kívül bármi mással foglalkozzanak. Míg a fiúk zenésznek tanultak, addig Caroline egyre nagyobb lelkesedéssel szívta magába apja csillagászattal kapcsolatos ismereteit.
A hétéves háború alatt, Hannover 1757-es francia megszállásának idején a hozzá legközelebb álló bátyja, William Herschel Angliába menekült, ahol zenészként és zenetanárként kereste kenyerét. Caroline évekig szolgálólányként dolgozott, majd apja elvesztése után, 1772-ben testvére hívására az angliai Bath-ba utazott. Bátyjától énekelni tanult, de matematika- és csillagászati leckéket is vett tőle. Rövid énekesnői pályafutása után bátyjának segédkezett, aki ideje nagy részében már csillagászattal foglalkozott.
William idővel távcsöveket kezdett készíteni, elégedetlen volt a megvásárolható lencsék minőségével.
Közben megtanulta a számítások elvégzését, a csillagok katalogizálását, a műszerek kezelését. A testvérpár élete 1781-ben változott meg gyökeresen, amikor William az Uránusz bolygó felfedezésével – amelyet először üstökösnek vélt – hírnevet szerzett, III. György brit király pedig biztos jövedelemmel járó udvari csillagászi állást ajánlott fel neki. A testvérek Windsor közelébe, előbb Datchetbe, majd Slough-ba költöztek, a zenei ambíciókkal pedig végleg felhagytak. 1789-re megépítették a korszak legnagyobb, akkor technikai csodának számító teleszkópját (122 cm átmérőjű, 12 m fókusztávolságú tükörrel), emellett távcsövek összeállításával és eladásával is foglalkoztak.
Caroline továbbra is részt vett bátyja csillagászati projektjeiben, de éjszakánként elkezdte saját megfigyeléseit egy különösen nagy fényérzékenységű teleszkóppal. Feljegyzéseit 1782-től naplóban vezette, és egy évvel később megtette első önálló felfedezését – talált egy csillagködöt. (Akkoriban a távcsővel felhőszerűnek látszó objektumokat nevezték így, az idők folyamán többről kiderült, hogy távoli galaxisok vagy csillaghalmazok, ma a csillagközi anyagból álló felhőket nevezik így.) Bátyja ezután kezdett el komolyabban érdeklődni a csillagködök iránt. Caroline továbbra is kitartóan pásztázta az égboltot, amit végül siker koronázott, 1786-ban fedezte fel első üstökösét, amely C/1786 P1 (Herschel) néven vált ismertté.
Caroline még több üstököst is felfedezett, köztük van a nevét is viselő, 155 éves periódussal keringő 35P/Herschel–Rigollet üstökös. (A számítások szerint 2092-ben fog újra a közelünkben járni.) 1788-tól kezdve, amikor testvére megházasodott, magányosan élt és dolgozott, folyamatosan vizsgálta a Szaturnuszt és az akkor még György csillagának (Georgium Sidus) nevezett Uránuszt. 1798-ban bemutatta a brit Királyi Társaságnak (Royal Society) John Flamsteed, az első királyi csillagász (1646-1719) megfigyeléseinek jegyzékét. A társaság 1802-ben William neve alatt jelentetett meg egy új katalógust, amelyben Caroline 500 új csillagködöt sorolt fel a már ismert 2000 mellett.
Bátyja 1822-ben bekövetkezett halála után visszaköltözött Hannoverbe, ahol folytatta kutatómunkáját, és élete végéig aktívan tevékenykedett. Számos tudományos kitüntetésben részesült: 1828-ban a brit Királyi Csillagászati Társaság (Royal Astronomical Society) aranyéremmel tüntette ki, majd 1835-ben Mary Somerville skót tudósnővel együtt tiszteletbeli tagjává választotta, ezzel ők lettek az első tiszteletbeli női tagok. 1838-ban az Ír Királyi Akadémia tagja lett, 1846-ban IV. Frigyes Vilmos porosz királytól vehette át a Porosz Tudományos Akadémia aranyérmét. Életének 98. évében, 1848. január 9-én békésen érte a halál hannoveri otthonában.
Az egyik első olyan nő a csillagászat történetében, akinek a neve szerepel a jelentősebb enciklopédiákban és szakművekben. Róla nevezték el a 281 Lucretia aszteroidát, valamint a Holdon található egyik krátert. 2020-ban nevét viselő műholdat bocsátottak fel az űrbe, 2021-ben a brit kormány tudományos érdemérmet alapított tiszteletére. Fennmaradt visszaemlékezéseit és levelezéseit Nyugat-Európában több ízben kiadták. Egykori, testvérével közös otthona Bath-ban ma csillagászati múzeum, amely róla is megemlékezik.