Op 16-jarige leeftijd meldde hij zich aan bij de koopvaardij en diende daarna bij de Nationale Garde voor zijn pensioen. Hij ontving het Purple Heart van de Amerikaanse Senaat voor zijn dienst in de Koreaanse Oorlog.
Na model te hebben gestaan voor Jantzen badpakken, kreeg hij in 1954 een bijrol in de Broadway theaterproductie van The Caine Mutiny Court Martial. In die tijd deed ze ook reclamespots en een paar televisierollen.
Hij verscheen voor het eerst op het witte doek in 1956, in de films The Girl He Left Behind en Toward the Unknown. Hij was een gelukkige debutant, want het jaar daarop werkte hij aan de zijde van de legendarische Marlon Brando in Sayonara, en werd als doorbraakacteur bekroond met een Golden Globe.
Na vier kleine filmrollen werd hij beroemd dankzij de televisie in de jaren vijftig, waar hij een professionele pokerspeler speelde als hoofdrolspeler in de hit-westernserie Maverick (1957-1960). Andere prominente acteurs speelden de hoofdrollen, maar Garner was de grote ster van de show. En in tegenstelling tot andere figuren wier televisiewerk hen ervan weerhield het te maken in de film, wisselde Garner decennia lang met succes af tussen de twee media.
In de jaren zestig speelde ze in veel films, waaronder: William Wylers The Children’s Hour, met Audrey Hepburn en Shirley MacLaine; The Thrill of It All; Move Over, Darling, met Doris Day, die een remake was van de onvoltooide Marilyn Monroe-film Something’s Got to Give; Boys’ Night Out, met Kim Novak en Tony Randall; het populaire The Great Escape, met Steve McQueen en Richard Attenborough; The Americanization of Emily, met Julie Andrews; John Frankenheimers Grand Prix, met Eva Marie Saint en Yves Montand; en Support Your Local Sheriff!
In de jaren 70 had Roy Huggins het idee om Maverick te remaken, maar dan in een moderne privé-detective vorm. Huggins werkte samen met co-creator Stephen J. Cannell en zo werd The Rockford Files geboren, waarmee het succes van Maverick nieuw leven werd ingeblazen in de moderne tijd en met een andere identiteit. Garner begon in 1974 met de rol van de hoofdrolspeler, Jim Rockford, en zes seizoenen lang was het zijn beste rol, waarvoor hij in 1977 de Emmy Award voor Beste Acteur won.
In de jaren tachtig en negentig kon James Garner kiezen voor prestigieuze filmprojecten. In 1982 speelde hij met Julie Andrews in de hitkomedie Victor Victoria, geregisseerd door veteraan Blake Edwards, en in 1986 kreeg hij een Oscarnominatie voor Murphy’s Romance. In 1988 speelde ze in een andere film van Edwards, Sunset, tegenover Bruce Willis en Malcolm McDowell. In 1994 speelde hij samen met Mel Gibson en Jodie Foster in de film Maverick, gebaseerd op de oorspronkelijke versie van de serie, en in 1998 speelde hij samen met Paul Newman, Gene Hackman en Susan Sarandon in de veelgeprezen film Twilight van Robert Benton. In 2000 keerde hij terug in de schijnwerpers met Space Cowboys, aan de zijde van Clint Eastwood, Donald Sutherland en Tommy Lee Jones.
Na de dood van John Ritter trad Garner toe tot de cast van 8 Simple Rules for Dating My Teenage Daughter, als Opa Egan. Hij was aanvankelijk een gastster, maar moest later tot het einde van de serie meer hoofdrollen vervullen.
De acteur overleed op 19 juli 2014 op 86-jarige leeftijd thuis in Los Angeles aan de gevolgen van een hartstilstand.
De dood van de acteur was een ingrijpende gebeurtenis.