Jack Sheldon era hijo de Jen Loven (1909-1989), quien enseñó a nadar a muchos de los principales artistas del entretenimiento de Hollywood y sus hijos en su famosa escuela de natación Jen Loven en Hollywood. Jack era conocido principalmente por su papel de compinche en el programa de televisión The Merv Griffin Show (1962) en la década de 1970.