L'aventure de Karl Kling en F1 se confond avec celle de Mercedes-Benz en tant que constructeur.

Karl commence sa carrière très tardivement, en 1949 avec Veritas. Lors de la dernière épreuve de F2 de la saison, il termine deuxième, mais il est disqualifié pour avoir été poussé lors du départ. En 1950, il remporte sa première victoire en F2, lors de la Solituderennen. En 1951, il ne court que deux courses de F2. En 1953, il passe chez Alfa Romeo et dispute les Mille Miglia et les 24 heures du Mans, sans terminer les courses. La même année, avec Porsche il court la Carrera Panamerica mais est, là aussi, contraint à l'abandon. La saison 1954 marque le retour de Mercedes-Benz en Formule 1 et c'est aux côtés de Juan Manuel Fangio, que Karl débute sa carrière en Formule 1.

C'est au Grand Prix de France que la firme allemande débute la saison en fanfare, terminant avec un doublé de Juan Manuel Fangio et Karl Kling, qui ont tous deux dominé la course, Fangio ralentissant à la fin pour permettre une photo finish mémorable. Karl termine ainsi deuxième à un dixième de l'argentin. Lors du Grand Prix d'Allemagne, Karl fait le meilleur tour en course mais termine au pied du podium. Il va remporter sa seule course de Formule 1, le Grand Prix de Berlin, hors championnat. L'année suivante, après deux quatrièmes places en F1, Karl participe à des épreuves de voitures de sport, dont les 24 heures du Mans, marquées par l'accident de la Mercedes de Pierre Levegh.

Lors du Grand Prix de Grande-Bretagne, Karl termine troisième, derrière le duo Moss-Fangio. Enfin, il décroche la deuxième place lors du Tourist Trophy et des Mille Miglia, avant le retrait de Mercedes à la fin de la saison, et aussi, celui de Karl.

Karl Kling fera une apparition en 1996 sur le Nürburgring et en 2000, pour son 90e anniversaire.