Lesberg 1920. február 14-én született Bostonban. Kezdetben hegedülni tanult, s különféle klubokban játszott, mielőtt az 1930-as évek végén a nagybőgő felé fordult volna. 1942-ben túlélte a Cocoanut Grove nevű night clubot elpusztító és 492 ember halálát követelő tűzvészt. 1943-ban New Yorkba költözött, 1945-től 1948-ig a New York City Symphony Orchestra-ban játszott, főként Leonard Bernstein irányításával. A második világháborút követő években a jazz-világ olyan csillagaival dolgozott együtt, mint Eddie Condon gitáros, Coleman Hawkins tenor-szaxofonos, Benny Goodman klarinétjátékos, Earl (Fatha) Hines zongorista, illetve Billie Holiday és Sarah Vaughan énekesek. Az 1940-es évektől alkalmanként Louis Armstronggal is fellépett, s az ?50-es évek közepén együtt turnézott az Armstrong All Stars-szal. Az 1970-es évek első felében a Sydney Symphony tagja volt. Élete utolsó huszonöt évének nagy részét Roosevelt Islandon töltötte. Utolsó jelentős fellépésére 2003 márciusában került sor Clearwaterben.
