Budapesten született 1944-ben, újszülöttként egy évet töltött a pesti gettóban. Családjával nagy szegénységben éltek, kényszerűségből vándorfényképészként dolgozó édesapját a nyári szünetekben elkísérte vidéki munkáira, így került életre szóló kapcsolatba a fényképekkel. A gimnáziumi érettségit követően előfelvételt nyert a bölcsészkarra, így egy évig segédmunkásként dolgozott az egyetemi nyomdában. Az Eötvös Loránd Tudományegyetem magyar–népművelés szakát 1969-ben végezte el. Egyetemi évei alatt tagja volt az ELTE Amatőrfilm Klubnak, már itt több kísérleti filmet készített Jeles András rendezővel. 1969-ben felvették a Színház- és Filmművészeti Főiskolára Illés György osztályába, ahol 1973-ban diplomázott operatőrként. 1972–1979 között a Mafilm stúdiójában dolgozott segédoperatőrként, majd a Magyar Televíziónál mint operatőr és rendező.
Több nagyjátékfilm, dokumentumfilm és televíziós munka után az 1979-es, Jeles Andrással közösen készített, dokumentarista hangvételű filmje, A kis Valentinó hozta meg számára az áttörést operatőrként. A két filmes együtt dolgozott 1983-ban a már színesben készült Angyali üdvözlet és az azonnal betiltott, ezért csak 1985-ben bemutatott Álombrigád című filmeken is, amelyek képi világa ugyancsak Kardos érzékenységéről és virtuozitásáról tanúskodik. Pályafutása során több mint harminc játék- és több mint száz tévéfilmet, kisjátékfilmet fényképezett; több darabnak nemcsak operatőre, hanem rendezője és forgatókönyvírója is. Jeles András mellett többek között Tímár Péterrel, Molnár Györggyel, Gödrös Frigyessel, Tarr Bélával forgatott. Legemlékezetesebb együttműködése mégis Bereményi Gézához fűzi, akivel A tanítványokat, az Eldorádót, A turnét, valamint A Hídembert csinálta. A fiatalabb rendezői generáció tagjaival is szívesen forgat: például Groó Dianával készítette a Csoda Krakkóban, az Előttem az élet és a Vespa című filmeket. További ismertebb filmjei a Szeleburdi család, az Egészséges erotika, A legényanya, a Telitalálat, valamint A bárány utolsó megkísértése.
A magyar filmszakma egyik nagy kísérletezőjeként tartják számon, életművében bővelkednek a szokatlan képi világot felmutató alkotások. A világon elsőként készített a sportban használatos célfotókamerával játékfilmet. A sírásó kiindulópontját a Rainer Maria Rilke John Mortonson temetése című művéből írt forgatókönyv jelenti, de Homérosz Odüsszeiájának és Daniel Defoe A londoni pestisének szálai is részei a történetnek. Először a Cannes-ban is bemutatott 2005-ös rövidfilmben, a Résfilmben használta ezt az egyedi technikát, amelynek lényege, hogy célfotókamerával, azaz réskamerával vette fel a jeleneteket, így – mint fogalmazott – időben rögzítette a teret. A célfotókamera egy folyamatosan nyitott optikán, a résen keresztül minden pillanatot rögzít időbeli megszakítás nélkül, így az előtte megjelenő mozgó elemek saját sebességüktől függően elnyúlva, torzulva, míg az álló elemek vízszintes csíkokként jelennek meg a filmen.
Kardos Sándor a hatvanas évek közepén kezdett amatőr fényképeket gyűjteni: egyebek mellett feleslegessé vált régi fotókat, üveglemezeket és papírképeket. Az évtizedek alatt milliós nagyságrendűre bővült kollekciója a Hórusz Archívum nevet viseli, amely méretét tekintve Magyarország egyik legnagyobb privátfotó-gyűjteménye. 2020-ban a Műcsarnokban, majd 2021-ben a szegedi Fekete házban volt látható válogatott kiállítás A bomlás virágai – Fejezetek a Hórusz Archívumból címmel.
Kardos Sándor munkásságáért hazai és nemzetközi fesztiváldíjak sokaságát nyerte el. 1985-ben, 2001-ben és 2006-ban megkapta a Magyar Filmkritikusok Díját, 1986-ban és 2005-ben a Magyar Filmszemle díját. 2000-ben Glamour című filmjéért elnyerte Az év operatőre díjat és a Madrid Imagen operatőri fesztivál fődíját. 2011-ben A sírásóval a FIPRESCI-díjat érdemelte ki. 2012-ben a Szolnoki Nemzetközi Képzőművészeti Filmszemle, 2021-ben a Zsigmond Vilmos Nemzetközi Filmfesztivál életműdíját vehette át, 1986-ban Balázs Béla-díjat kapott, 1990-ben érdemes, 1999-ben kiváló művész lett. 2010-ben kiemelkedő operatőri tevékenységéért Kossuth-díjjal tüntették ki. 2022-ben elnyerte a Nemzet Művésze díjat. 2023-ban a Magyar Művészeti Akadémia rendes tagjává választották.
