Oscar Klein Grazban született 1930-ban, de zsidó származása miatt hamar menekülnie kellett Ausztriából. Eredetileg grafikusnak tanult, 18 évesen Firenzében dolgozott, majd a zene lett az élete. Több mint négy évtizedes pályafutása során közel 200 lemezfelvételt készített, a jazz legnevesebb előadóival lépett fel együtt. Autodidakta módon tanult zenélni, kottát soha nem tanult meg olvasni, de a trombita mellett játszott klarinéton, szájharmonikán és gitáron.
Roy Elridge és Cootie Williams hatására a chicagói jazz stílusát követte, az '50-es években Európa klubjaiban és fesztiváljain szerzett nevet. Később Joe Zawinullal játszott Fatty George együttesében, ami után a Tremble Kids, majd a Dutch Swing College Orchestra következett, de fellépett Wild Bill Davisonnal, Bill Colemannel, Dexter Gordonnal, Lionel Hamptonnal és Earl Hinesszal is.
