Kansas Cityben született 1920. augusztus 20-án szegény afroamerikai családban, anyja ereiben csaktó indián vér is csörgedezett. Bár vasúti pincérként dolgozó apja táncosként és énekesként is fellépett, őt kezdetben nem vonzotta a zene, amikor tízéves korában szülei elváltak és anyja egy szaxofont vett neki vigasztalásul, a hangszert évekre kölcsönadta egyik barátjának. Középiskolásként kezdett zeneórákat venni, az iskolai zenekarban kürtön játszott, majd szerzett egy új szaxofont.
A hangszerbe annyira beleszeretett, hogy 1935 végén félbehagyta tanulmányait, inkább Kansas City és a környék jazzklubjaiban lépett fel, turné közben egy autóbalesetben életveszélyes sérüléseket szenvedett. Az ambiciózus Parker híres és tapasztalt zenészekkel is egy színpadra állt, egy alkalommal rögtönzés közben eltévesztette a hangnemváltást, mire a Count Basie Orchestra dobosa megvetően a lába elé dobta a cintányért.
1936-ban elvette nála évekkel idősebb barátnőjét, akitől két gyermeke született, de a nő három év múlva a zenész drogfüggősége miatt beadta a válókeresetet.
1939-ben New Yorkba utazott, ahol eleinte mosogatóként is dolgozott egy étteremben, ahol a korszak egyik legjobb zongoristája, Art Tatum lépett fel, később zenésztársa, Buster Smith megengedte, hogy nála lakjon, cserébe zenekarában zenélt, tökéletesítette improvizációs technikáját. 1940-ben apja temetésére visszatért Kansas Citybe, ekkoriban a zongorista Jay McShann zenekarában játszott, velük készült első felvétele 1941-ben, s megismerte a trombitás Dizzy Gillespie-t. A szakmában mindenki Yardbird becenéven ismerte, ennek okáról több történet is kering. Az egyik szerint olyan könnyedén fújta a szaxofont, mintha madárként repült volna a zene szárnyain, ezért lett Bird, azaz Madár. Egy másik, zenésztársai által terjesztett történet szerint viszont azért, mert rendkívül szerette a sült csirkét, és amikor egyszer turné közben elütöttek egy csirkét, aznap abból készített vacsorát, s a yard bird rövidüléséből született a Bird.
New Yorkba visszatérve harlemi szórakozóhelyeken játszott, fellépések után a szárnyait bontogató Dizzie Gillespie, a zongorista Thelonious Monk, a dobos Kenny Clark, a gitáros Charlie Christian társaságában örömzenélt, így alakult ki a jazzt forradalmasító bebop stílus.
A számok jellemzői a gyors tempó, újszerű harmóniák, nehezen játszható nyolcados futamok és a hosszú rögtönzések voltak. A melódia, a ritmus újszerű megközelítését számos befutott nagyság elutasította, Louis Armstrong még ki is gúnyolta egy dalában, megkérdőjelezve létjogosultságát. A bebop születését azonban nehéz dokumentálni, mert a zenészszakszervezet 1942 és 1944 között a nagy lemezcégek jogdíjfizetési gyakorlata ellen tiltakozva sztrájkot hirdetett, így a muzsikusok felléptek ugyan, de felvételek csak elvétve készülhettek.
Parker hírneve egyre nőtt, 1944-ben már Earl Hines, majd Billy Eckstein zenekarában muzsikált, 1945-ben megalakította első saját együttesét. Pályafutásának legjelentősebb időszaka 1951-ig tartott, 1949-ben és 1950-ben átrándult Európába is. Régi álmát valóra váltva vonósokkal is készített felvételeket, balladákat vettek föl neves jazz- és kamarazenészekkel, amelyekből 14 került rá a Charlie Parker With Strings címen kiadott dupla albumra, amely kereskedelmileg legsikeresebb lemeze lett. Népszerűségére építve kapta az 1949-ben megnyitott legendás New York-i klub a Birdland nevet (Parker egy 1950-es itteni fellépése lemezen is megjelent), 1953-as Jazz At Massey Hall néven kiadott torontói koncertfelvétele egyike a jazztörténelem legjobb élő koncertjeinek.
Fellépéseket mulasztott el, összeveszett társaival a színpadon, egy alkalommal Kaliforniában részegen magára gyújtotta szállodai szobáját, ahonnan meztelenül menekült, az elvonókúrák, kezelések nem használtak. 1954-ben, miután meghalt hároméves lánya és botrányos viselkedése miatt kirúgták a Birdland klubból, öngyilkosságot kísérelt meg. Utoljára 1955. március 4-én a Birdland klubban lépett fel, a koncert a zenészek között kialakult vita miatt félbeszakadt. Parker néhány nappal később, 1955. március 12-én egy New York-i hotelszobában halt meg, 34 éves korában. Halála okaként tüdőgyulladást és egy vérző gyomorfekélyt állapítottak meg, de előrehaladott májzsugorodást, agyvérzést és szívrohamot is diagnosztizáltak, a kiérkező halottkém 50-60 évesnek becsülte.
Munkásságát számtalan lemez dokumentálja, még 2016-ban is kerültek elő addig ki nem adott felvételei.
Posztumusz számos elismerést megkapott, így 1974-ben First Recordings’ című albuma elnyerte a legjobb egyéni jazzelőadásért járó Grammy-díjat, 1950-es Charlie Parker With Strings című albuma 1988-ban, majd az 1953-as Jazz At Massey Hall 1995-ben került be a Grammy Hírességek Csarnokába. 1984-ben Grammy-életműdíjat, 2021-ben csillagot kapott a hollywoodi Hírességek sétányán. A Weather Report Birdland című számát neki dedikálta, 2015-ben Philadelphiában operát mutattak be róla, a Yardbirds együttes neve is őrá utal. Jack Kerouac egyetlen befejezett poémájában jelentőségét Beethovenéhez hasonlította, New Yorkban és Kansas Cityben is minden évben Charlie Parker jazzfesztivált rendeznek.
