S-a nascut la San Diego, California, fiind unul dintre cei trei fii ai unei familii de militari.
În 1955, dupa un serviciu militar de 2 ani în armata americana, Duvall a plecat la New York unde s-a angajat la Neighborhood Playhouse. Sanford Meisner, un apreciat profesor de actorie, a fost primul care a observat ca Duvall are un potential enorm si l-a distribuit în piesa lui Tennesse William Camino Real si în cea a lui Horton Foote The Midnight Caller.
Actorul începator, care s-a întretinut financiar lucrând la un oficiu postal si mai apoi ca portar la Universitatea Americana, a împartit un apartament cu alti doi actori straluciti, Dustin Hoffman si Gene Hackman. În acea perioada, Horton Foote l-a propus pe tânarul Duvall pentru rolul misteriosului Radley în deja clasicul To Kill A Mockingbird. Acest film a marcat debutul ca actor de cinema al lui Duvall si prima dintr-o serie de colaborari cu Foote.
În anii ’60, Duvall a jucat în filme ca The Chase (Urmarirea), Countdown, The Detective, Bullitt, The Rain People si True Grit. Cariera sa aflându-se în plina desfasurare, Duvall a început anii ’70 interpretând rolul Maiorului Frank Burns în M*A*S*H*, urmat de THX 1138 si Lawman. În anul 1972, a obtinut o nominalizare la premiul Oscar, la categoria ’Cel mai bun actor într-un rol secundar’, pentru rolul avocatului familiei Corleone, Tom Hagen, din filmul The Godfather (Nasul), regizat de Francis Ford Coppola.
În anul 1974, Duvall a aparut în The Godfather, Part II, urmat de Breakout si The Killer Elite. În 1979, Duvall a obtinut cea de-a doua nominalizare la Oscar, la categoria ’Cel mai bun actor într-un rol secundar’, pentru rolul Col. Kilgore din drama Apocalypse Now (regia Francis Ford Coppola). Un an mai târziu, el s-a aflat din nou printre cei nominalizati la premiul Oscar, la categoria ’Cel mai bun actor într-un rol principal’, pentru rolul pilotului Marinei Americane, Bull Meechum, din filmul The Great Santini. A obtinut premiul Oscar pentru rolul principal Mac Sledge din pelicula memorabila Tender Mercies. Duvall a câstigat apoi Globul de Aur, la categoria ’Cel mai bun actor’, pentru rolul dictatorului sovietic nemilos din filmul Stalin realizat de HBO.
În 1997, Duvall a trecut în spatele aparatului de filmat, regizându-si propriul scenariu The Apostle. Duvall a finantat personal aceasta productie ecranizata de compania Butchers Run Films si a interpretat rolul principal al predicatorului penticostal sudist. Datorita unei distributii de zile mari, care i-a cuprins pe Miranda Richardson, Farrah Fawcett si Billy Bob Thornton, The Apostle, a obtinut cel mai mare pret obtinut vreodata de un film vândut la Festivalul de Film din Toronto. Acest film i-a mai adus lui Duvall o nominalizare la Oscar.
Au urmat apoi rolurile din Deep Impact (Impact nimicitor), Phenomenon si A Civil Action (Avocatul), ultimele doua avându-l ca protagonist pe John Travolta. A Civil Action i-a adus o nominalizare la Globul de Aur pentru ’Cel mai bun actor într-un rol secundar dramatic’ si cea de-a sasea nominalizare la premiul Oscar.
Cel mai recent, a putut fi vazut în thriller-ul cu actiune Gone in 60 Seconds (Dispari în 60 de secunde), unde l-a avut ca partener pe Nicolas Cage.
În iarna anului 2001, Duvall va relua rolul multiplu de scenarist, regizor, interpret si producator la proiectul sau intitulat Assassination Tango. Acest film, care va fi turnat în orasele Buenos Aires si New York, va fi produs si finantat de Francis Ford Coppola si compania acestuia American Zoetrope Productions. De asemenea, Duvall va mai juca în productia John Q (regia Nick Cassavetes), alaturi de actorul Denzel Washington.
Actorul a fost recompensat cu o stea pentru filmele sale, situată în partea de nord, aria 6800, pe Bulevardul Walk of Fame din Hollywood.
