A harlemi születésű művész jazzmuzsikusok között nőtt fel, a modern jazz legendás alakjai, Thelonious Monk, Bud Powell és Charlie Parker szomszédságában. Tizenéves korában már együtt készített lemezfelvételt Sonny Rollinsszal és Miles Davisszel, később Charles Mingus és Art Blakey együtteseiben is játszott. 1955-ben készítette első albumát saját együttesével, amelyben Donald Byrd és Mel Waldron is helyet kapott. A hatvanas években a bop stílusból kiindulva Ornette Colemannel együtt kísérletezett a free jazz világában. A hetvenes években a hartfordi egyetemen tanított, ahol később megalapította az afro-merikai zenei tanulmányok programját, az első olyan diplomát adó zenei kurzust, amely a jazzre épült. A programból mára az ő nevét viselő intézmény fejlődött ki, a Jackie McLean Institute of Jazz.
