Jeremy Samuel Piven s-a nascut la data de 26 Iulie 1965 in New York dar a copilarit in Evanston, Illinois, precum si in zona de nord a orasului Chicago. A absolvit Liceul Evanston, iar in adolescenta a urmat scoala de teatru Harand ce a fost organizata in Elkhart Lake, Wisconsin. Acolo a jucat rolul lui Bernardo, intr-o adaptare a piesei West Side Story. In Illinois a studiat la Scoala de Teatru Piven, ce a fost fondata chiar de catre parintii sai, Byrne Piven si Joyce (nascuta Hiller), care erau amandoi actori si profesori de actorie.
A urmat Universitatea Drake din Des Moines, Iowa. A studiat un semestru la Institutul National de Teatru din Waterford, Conneticut. Primul rol important pe care a reusit sa-l obtina Piven a fost in productia HBO intitulata The Larry Sanders Show, unde il interpreta pe Jerry.
Piven este evreu dar este pasionat de studiul religiilor orientale, cum ar fi hiduismul sau budismul. A aparut in emisiunea special realizata pentru canalul Travel intitulata Jeremy Piven's Journey of a Lifetime, care prezenta calatoria sa de-a lungul Indiei.