Erdélyi szász család sarjaként jött a világra Temesvárott, apja, Karl Kosch postatisztviselő volt. A nagyszebeni és a kolozsvári diákévek után a budapesti Műegyetem építész szakán folytatta tanulmányait, tervezésben az elsők közé tartozott, amiről számos elismerés, pályázati díj tanúskodott. 1907-ben lediplomázott, diplomamunkája, az Egy főúri kastély terve – konzulense Schulek Frigyes volt – osztatlan sikert aratott, és diplomadíjra terjesztették fel. Ebben az évben adta nyomdába első könyvét is Székely balladák címmel, amelyet jegyajándékul szánt kedvesének, későbbi feleségének, Balázs Idának.
Ösztöndíjasként Székelyföld, Torockó és Kalotaszeg építészetét és néprajzát tanulmányozta. Így alakította ki sajátos stílusát, amelyben a szecesszió és az erdélyi népi építészet, díszítőművészet elemei keverednek. 1908-ban önálló építészeti irodát nyitott, első munkái között szerepelt – más tervezőkkel közösen – az óbudai református parókia, a zebegényi katolikus templom és az állatkerti pavilonok tervezése is.
1910-ben a kalotaszegi Sztánán felépítette Varjú-várnak nevezett nyaralóját, későbbi lakóházát, és megírta Régi Kalotaszeg című könyvét. Kalotaszeg címmel lapot is indított, illetve megtervezte a sepsiszentgyörgyi Székely Nemzeti Múzeumot.
Az I. világháború kitörésekor, 1914-ben behívták katonának, de két év múlva felmentették a szolgálat alól, és – másokkal együtt – megbízták az utolsó magyar király, IV. Károly koronázási ünnepségének előkészítésével. Györgyi Dénes építésszel a királyi vártól a Mátyás-templomig terjedő útvonal házait díszítették fel, és megtervezték a koronázási dombot, amiért megkapták a Ferenc József-rend lovagkeresztjét.
1917–18-ban ösztöndíjjal Konstantinápolyban tanulmányozta a török és a bizánci építészetet, ebből született Sztambul című monográfiája. 1918-ban az Iparművészeti Főiskola építészeti tanszékére nevezték ki, de az őszirózsás forradalom után családjával inkább Sztánán maradt. 1919-ben megszervezte a Kalotaszeg Köztársaságot, amelynek címert, pénzt, zászlót és bélyeget tervezett.
A trianoni békediktátum után Romániához került Erdélyben folytatta munkáját. Részt vett a Magyar Néppárt és az Erdélyi Szépmíves Céh megalakításában, szerkesztette Benedek Elek Vasárnap című politikai újságját; a Céh jelentette meg első regényét, a Varjú nemzetséget is. 1931 és 1944 között szerkesztette az Erdélyi Helikon című folyóiratot, 1934-ben elvállalta a kalotaszegi református egyházmegye főkurátorságát. Ebben az évben saját illusztrációival megjelent Az országépítő című, Szent Istvánról szóló történelmi regénye, amelyért Baumgarten-díjat kapott. A szintén történelmi témájú Budai Nagy Antal című drámáját a pesti Vígszínház mutatta be. 1940-ben – az erdélyi magyarságért végzett munkájáért – Corvin-koszorúval tüntették ki.
1940-ben a kolozsvári Mezőgazdasági Főiskolán a gazdasági építészet tanárává nevezték ki, 1945-től a főiskola dékánja, 1946–48-ban országgyűlési képviselő volt. 1952-ben nyugdíjba vonult, de az írással és a tervezéssel nem hagyott fel.
Infarktusa, majd feleségének 1973-ban bekövetkezett halála után egészsége megromlott. Kós Károly 1977. augusztus 25-én hunyt el, sírja a kolozsvári Házsongárdi temetőben található.
Emlékére 1988-ban díjat alapítottak, amelyet minden évben december 16-án adnak át azoknak, akik különösképpen sokat tesznek településük arculatának formálásáért, vagy kiemelkedő építészeti tevékenységet végeztek.
Halála után kétszer is kitüntették, 1997-ben posztumusz Magyar Örökség díjat, 2010-ben posztumusz Ybl Miklós-díjat kapott. 2013-ban Sztánán felavatták szobrát, Gergely Zoltán szobrászművész alkotását. 2022-ben állították fel egész alakos bronzszobrát Kolozsváron – Farkas Ádám Kossuth-díjas szobrászművész alkotása a Kós Károly tervezte felsővárosi Kakasos templom előtt áll. Az Országgyűlés idén december 16-át, Kós Károly születésének napját a magyar építészet napjává nyilvánította, ekkor adják át a róla elnevezett életműdíjat is.
A nyitóképen Kós Károly erdélyi magyar építész, író, grafikus, könyvkiadó, politikus. Fotó: Csomafáy Ferenc