Alan Arkin nascut in Brookyn, New York. Familia sa s-a mutat din Brooklyn in Los Angeles, atunci cand Arkin avea 11 ani. Arkin, a luat cursuri de actorie de la varsta de 10 ani, si a devenit un student cu bursa la diferite academii de teatru. Arkin a invatat la Liceul Franklin, din Los Angeles, si apoi la facultatea Los Angeles City din 1951 pana in 1953. Alaturi de doi prieteni a format trupa de muzica folk, The Tarriers, in care Arkin canta la voce si la chitara.
Membrii trupei au compus hitul anilor 56, "The Banana Boat Song". hit ce a urcat pana pe locul 4 in topul Billboard. Din anii 1958 pana 1968, Arkin a cantat si inregistrat cu copiii din grupul folk The Baby Sitters. A interpretat rolul doctotulul Pangloss, in opereta Candide, a lui Leonard Bernstein. Arkin a fost membru al trupei de comedie The Second City in 1960.
In 1985, a interpretat, doua melodii Jones & Schmidt, pe albumul lui Ben Bagley, Contemporary Broadway Revisited. A primit o nominalizare la Oscar, pentru cel mai bun actor, dupa prima aparitie pe ecran (The Russian Are Coming, The Russian Are Coming in 1996).
Doi ani mai tarziu fost nominalizat din nou, pentru rolul din filmul The Heart Is a Lonely Hunter. A castigat Oscar-ul, pentru cel mai bun actor intr-un rol secundar, in filmul Little Miss Sunshine, unde interpreta rolul unui bunic spurcat la gura si cu o slabiciune pentru droguri. La varsta de 72 de ani, Arkin devine al saselea cel mai batran castigator al premiului Oscar, pentru cel mai bun actor intr-un rol secundar.