A los 16 años se alistó en la Marina Mercante y luego trabajó en la Guardia Nacional antes de su retiro. Recibió el Corazón Púrpura del Senado de los Estados Unidos por los servicios prestados en la guerra de Corea.
Después de ser modelo para los trajes de baño Jantzen, en 1954 obtuvo un papel secundario en la producción teatral de Broadway The Caine Mutiny Court Martial. En esa época realizó también anuncios comerciales y algunos papeles en televisión.
Su primera aparición en la gran pantalla fue en 1956, en las películas The Girl He Left Behind y Toward the Unknown. Fue un debutante afortunado, porque al año siguiente trabajó junto al mítico Marlon Brando en Sayonara, siendo premiado con un Globo de Oro como actor revelación.
Tras cuatro pequeños papeles en películas, alcanzó la fama gracias a la televisión en la década de los 50, al interpretar a un jugador de póker profesional como protagonista de la exitosa serie de western Maverick (1957-1960). Otros actores prominentes ocuparon roles protagónicos, pero Garner fue la gran estrella del programa. Y al contrario que otras figuras, cuya labor televisiva les impidió triunfar en el cine, Garner alternó ambos medios con éxito durante décadas.
En la década de los 60, participó en muchas películas como: The Children’s Hour (La calumnia), de William Wyler, junto a Audrey Hepburn y Shirley MacLaine; The Thrill of It All; Move Over, Darling (Apártate, cariño), con Doris Day, la cual era un remake del filme inconcluso de Marilyn Monroe Something’s Got to Give; Boys’ Night Out, con Kim Novak y Tony Randall; la popular La gran evasión, con Steve McQueen y Richard Attenborough; The Americanization of Emily, junto a Julie Andrews; Grand Prix de John Frankenheimer, junto a Eva Marie Saint e Yves Montand; y Support Your Local Sheriff!.
En la década de los 70, Roy Huggins tuvo la idea de rehacer Maverick, pero en una forma moderna de detective privado. Huggins se unió con el cocreador Stephen J. Cannell y así surgió The Rockford Files, haciendo revivir el éxito de Maverick en la era moderna y con otra identidad. Garner comenzó en 1974 a interpretar el rol del protagonista, Jim Rockford, y por seis temporadas fue su mejor papel, por el cual obtuvo el Premio Emmy al Mejor Actor en 1977.
En las décadas de 1980 y 1990 James Garner pudo elegir proyectos de prestigio en el cine. En 1982 rodó con Julie Andrews la exitosa comedia Victor Victoria, dirigida por el veterano Blake Edwards, y en 1986 recibió una nominación para el Premio Óscar por la película Murphy’s Romance. En 1988 participó en otra película de Edwards, Sunset, junto a Bruce Willis y Malcolm McDowell. En 1994, fue coprotagonista con Mel Gibson y Jodie Foster de la película Maverick, basada en la versión original de la serie, y en 1998 se codeó con Paul Newman, Gene Hackman y Susan Sarandon en Twilight (Al caer el sol), elogiado filme de Robert Benton. En 2000 volvió a la actualidad con Space Cowboys, junto a Clint Eastwood, Donald Sutherland y Tommy Lee Jones.
A la muerte de John Ritter, Garner se unió al elenco de 8 Simple Rules for Dating My Teenage Daughter, como el abuelo Egan. Al principio fue un actor invitado, pero después tuvo que ocupar papeles más protagonistas hasta el final de la serie.
El actor falleció en su casa de Los Ángeles el 19 de julio de 2014 a los 86 años de edad, a causa de un paro cardíaco.