Né le 25 juin 1964, ce joyeux petit blond commence tout naturellement par le karting. Il est sacré champion de Grande-Bretagne Junior en 1979 puis champion de Grande-Bretagne Senior en 1982.

En 1984, il s'engage dans le championnat de Formule Ford 1600 et remporte l'année suivante le Formula Ford Festival de Brands Hatch ce qui lui permet de s'engager en Formule Ford 2000 et Formule 3 en 1986 qu'il termine à une modeste quinzième place.

En 1987, Eddie Jordan l'engage dans son équipe de Formule 3 britannique, et Johnny remporte le championnat devançant Bertrand Gachot et Martin Donnely. Cette même année, Benetton lui permet d'effectuer ses premiers tours de roue en Formule 1 lors d'essais privés à Imola. Il passe ensuite en F 3000 Internationale, championnat qu'il aurait certainement gagné haut la main sans ses graves blessures aux jambes lors d'un carambolage à Brands Hatch fin août, le matin de l'accident, il avait signé un contrat avec Benetton en F1.

Herbert débute néanmoins au début de la saison 1989 au Brésil où il termina quatrième après avoir été porté pour entrer dans sa Benetton ! Mais handicapé par ses chevilles fraîchement brisées, il est mal à l'aise sur les pistes étroites et son équipe le remplace par Emmanuele Pirro après sa non-qualification au Canada. Il retrouve néanmoins un volant chez Tyrrell pour les Grands Prix de Belgique (abandon) et du Portugal (non-qualifié) où il remplace Jean Alesi (retenu par le championnat de F3000).

En 1990, il part pour le Japon et court en Sports Prototype et en Formula Nippon. Lotus fait appel à lui pour remplacer Donnelly (blessé) pour les deux derniers Grands Prix de F1 de la saison. Qualifié en milieu de grille, les deux courses se terminent par un abandon.

En 1991, Johnny participe conjointement au championnat de F3000 japonaise et au championnat de F1. Il participe à sept Grands Prix avec Lotus à la demande de Peter Collins, mécontent du titulaire Julian Bailey. Cette même année, il est engagé par Mazda pour piloter en endurance. Au volant de la japonaise à moteur rotatif, Herbert, associé à Volker Weidler et Bertrand Gachot, remporte les 24H du Mans.

En 1992, il fait (enfin) sa première saison complète de Formule 1 chez Lotus. Malheureusement, c'est une saison médiocre et il ne marque que deux points au prix de onze abandons. La saison suivante, toujours chez Lotus, il réalise quelques coups d'éclat (trois quatrièmes places) dans une écurie en perte de vitesse.

L'année 1994 est pour lui une année désastreuse, il ne marque aucun point mais en fin de saison il appelé par Flavio Briatore pour courir chez Ligier lors du Grand Prix d'Europe puis chez Benetton pour les deux dernières courses où il remplace Jos Verstappen.

En 1995, Johnny est donc titulaire chez Benetton pour ce qui sera sa meilleure saison en Formule 1, bien que dans l'ombre de son prestigieux coéquipier Michael Schumacher, il signe deux victoires (Grande-Bretagne et Italie), et s'adjuge la quatrième place du championnat pilote.

En 1996, Johnny rejoint Sauber, malgré un début de saison calamiteux, il parvient à revenir et à malmener son coéquipier H.H. Frentzen, accrochant au passage un podium à Monaco.

En 1997, il fait du petit bois des différents coéquipiers auxquels il fut confronté ajoutant un autre podium (Hongrie) à son palmarès. L'année suivante le bouillant Jean Alesi le rejoint dans l'équipe, il fait une saison décevante ne marquant qu'un point lorsque Jean en marque neuf. Il est remercié à la fin de l'année et signe chez Stewart.

Là encore il est dominé la majeure partie de la saison par son coéquipier Rubens Barrichello mais, il tire son épingle du jeu et remporte sa troisième et dernière victoire en Grand Prix lors de l'apocalyptique Grand Prix d'Europe, la première de l'équipe Stewart qui devient Jaguar en 2000 où il reste pour ce qui sera sa dernière année de F1.

Cette année-là, il ne marque aucun point et est victime d'un terrible accident dû à une rupture de suspensions lors de sa dernière course, il s'en sort seulement avec quelques contusions mais les commissaires sont obligés de le porter pour le sortir de sa voiture. La boucle était bouclée et il déclare : «J'ai commencé ma carrière en F1 en étant porté dans ma voiture, je la termine en étant porté pour en sortir.»