Gerhard Mitter fut surtout un pilote de voitures de sport, il ne fit que quelques apparitions en F1 principalement sur le Nürburgring.

Né à Schonlinde, Gerhard commence par la Formule 3 en 1960 et ressort à la fin de la saison avec le titre de champion d'Allemagne. Il court le début de la décennie en Formule Junior avec une DKW-Lotus. En 1963, il participe à sa première course de Formule 1 aux Pays-Bas avec une Porsche 718 de l'écurie Maarsbergen. Malgré une voiture vieille de quelques années, Gerhard réussit à terminer cinquième à Solitude dans une course hors-championnat, mais surtout, sur l'ancien Nürburgring, à terminer en quatrième position du Grand Prix d'Allemagne.

En 1964, il est engagé par Porsche pour disputer des courses de voitures de sport. Il reçoit une nouvelle invitation pour courir le Grand Prix d'Allemagne avec une Lotus qu'il termine à la neuvième place.

En 1965, en voitures de sport, il termine deuxième de la Targa Florio, ainsi que lors des 500 km du Nürburgring. Il participe à son dernier Grand Prix de F1 lors du Grand Prix d'Allemagne qui se termine par un abandon.

En 1966, il est victime d'un accident lors des essais de la course de Spa-Francorchamps. Il ne peut participer au Grand Prix d'Allemagne sur une F2 ce qui ne l'empêche pas en fin de saison, de remporter deux succès en voitures de sport, sur les circuits d'Hockenheim et du Zeltweg. Il remporte également le premier de ses trois championnats européens consécutifs de courses de côte. En 1967, il termine troisième à Sebring et à Monza, tandis qu'il est obligé d'abandonner lors du Grand Prix d'Allemagne sur une F2. En 1968, il termine deuxième du BOAC 500 et lors des 1000 km de Spa-Francorchamps. Et en 1969, il remporte la Targa Florio.

Il hérite d'une Formule 2 BMW pour participer au Grand Prix d'Allemagne. Le 1er août 1969, pendant les essais, Gerhard est victime d'un terrible accident après avoir perdu une roue. Il n'y survivra pas, il avait 33 ans.