David é filho do ganhador do Nobel de Economia de 1972, Kenneth Arrow. Sua mãe, Selma, é terapeuta psicossocial. Ele ficou interessado em atuar aos 12 anos enquanto frequentava a The Carroll School para crianças com dislexia. Seu primeiro papel foi Oliver na peça musical Oliver, apresentada na Tufts University, em Massachusetts. Seu primeiro emprego no teatro profissional foi aos 16 anos em uma companhia de verão em Concord, MA. Um de seus colegas de elenco foi Steve Carell.