Nascut in Tenafly, New Jersey, Harris a urmat cursurile universitatii Columbia timp de doi ani dupa care s-a mutat la universitatea din Oklahoma, unde a inceput sa studieze actoria. In 1973, Harris a plecat in California, unde a devenit membru al Institutului de arte, obtinand si o diploma in domeniu.
Harris a primit o nominalizare la Oscar pentru cel mai bun actor datorita rolului lui Jacson Pollock din Pollock, film ce a prilejuit debutul lui Harris in calitate de regizor. Pollock se bazeaza pe biografia Jackson Pollock: An American Saga de Steven Naifeh si Gregory White Smith, distinsa cu premiul Pulitzer.
De atunci, Harris a mai jucat alaturi de Jude Law si Joseph Fiennes in Enemy at the Gates, un film regizat de Jean-Jacques Annaud. Mai poate fi urmarit si in Bufallo Soldiers alaturi de Joaquin Phoenix, precum si alaturi de Meryl Streep in The Hours, un film bazat pe romanul lui Michael Cunningham distins cu premiul Pulitzer.
Harris a jucat alaturi de Anne Heche in The Third Miracle si impreuna cu Julia Roberts si Susan Sarandon a facut parte din distributia filmului Stepmom. Pentru rolul secundar din Truman Show, Harris a fost nominalizat la Oscar si a primit Globul de aur.
Un alt film in care a jucat Ed Harris este The Rock, cu Sean Connery si Nicolas Cage, dar si Absolute Power un thriller in care au mai jucat Clint Eastwood si Gene Hackman. Harris a detinut rolul lui Gene Kranz in Apollo 13, un film foarte apreciat, avandu-l ca regizor pe Ron Howard. Acest rol i-a adus premiul Screen Actors Guild pentru cel mai bun rol secundar, precum si nominalizari la Oscar si Globul de Aur.
Actorul a fost onorat pentru rolurile sale din filme cu steaua numărul 6712 amplasată pe Bulevardul Walk of Fame din Hollywood.