Avec seulement deux grands prix officiels à son actif, les non-initiés pourraient penser qu'il s'agit d'un de ces « gentlemen drivers », or il n'en est rien.

Issu d'une famille aisée, John Fitch a servi dans l'aviation alliée durant la Seconde Guerre mondiale, jusqu'à ce que son avion soit abattu et qu'il soit fait prisonnier de guerre. A la Libération, sa mauvaise forme physique l'éloigne des circuits jusqu'en 1949, mais il se refait rapidement un nom dans la catégorie SCCA. En mars 1951, il s'impose au Gran Premio de Eva Duarte Perón à Buenos Aires, au volant d'une Allard-Cadillac. Suite à cette victoire, le milliardaire Briggs Cunningham l'intègre à son écurie, qu'il espère voir gagner Le Mans et d'autres courses d'endurance. Il remporte les 12 Heures de Sebring et termine troisième de sa catégorie au Mans en 1953. Cette année-là, il fait ses premiers tours de piste en Formule 1 au volant d'une HWM lors du Grand Prix d'Italie. A Aix-les-Bains, il se classe quatrième au volant d'une Cooper-Bristol.

En 1952, il effectue un test de la Mercedes 300 SL qui lui vaut d'être approché par Alfred Neubauer. Il accepte d'intégrer l'équipe du constructeur en 1955. Malheureusement, lors de la course du Mans, son copilote, Pierre Levegh, est impliqué dans le pire accident de l'histoire du sport automobile. En septembre, il participe à son deuxième Grand Prix d'Italie, au volant d'une Maserati 250F, et se classe neuvième. Une semaine plus tard, il remporte le Tourist Trophy en compagnie de Stirling Moss, offrant une victoire à Mercedes avant que celle-ci ne se retire en fin de saison.

Il retourne alors aux Etats-Unis et entame une collaboration avec Chevrolet en tant qu'ingénieur. Cela ne l'empêche pas de participer chaque année à la course de Sebring jusqu'en 1964, date à laquelle il se consacre entièrement à la gestion du circuit de Lime Rock Park.