Kelemen János Kassán született 1943-ban. Szegeden, a József Attila Tudományegyetem olasz–orosz–francia szakán szerzett tanári diplomát 1966-ban, majd az Eötvös Loránd Tudományegyetem filozófia szakát végezte el. Pályája elején gimnáziumban tanított, majd 1970-től az ELTE BTK Filozófia Tanszékének oktatója lett. Egyetemi tanári kinevezését 1984-ben kapta meg.
Kelemen János szűkebb szakterülete az analitikus filozófia, a nyelvelmélet, valamint a klasszikus olasz irodalom (Dante-, Petrarca-kutatások) és az olasz filozófiatörténet (Benedetto Croce-kutatások) volt. Az MTA levelező tagjává 2004-ben, rendes tagjává 2016-ban választották. Tudományos eredményeit egyebek mellett 2007-ben Széchenyi-díjjal, 2016-ban pedig Akadémiai Díjjal ismerték el.