Ce petit blond joyeux commence tout naturellement sa carrière de pilote par le karting. Il devient champion de Grande-Bretagne Junior en 1979, puis champion de Grande-Bretagne Senior en 1982.
En 1984, il s'engage dans le championnat de Formule Ford 1600, qu'il remporte l'année suivante, ce qui lui permet de s'engager en Formule Ford 2000 et Formule 3 en 1986. Il termine alors à une quinzième place.
En 1987, Eddie Jordan l'engage dans son équipe de Formule 3, et Johnny remporte le championnat, devançant Bertrand Gachot et Martin Donnelly. Cette même année, Benetton lui offre l'opportunité d'effectuer ses premiers tours de roue en Formule 1 lors d'essais privés à Imola.
Il passe ensuite en F3000 Internationale en 1988, toujours avec Eddie Jordan. Dès la première course, à Jerez, il démontre son talent en remportant la victoire. Cependant, la saison prend un tournant dramatique lors de la course à Brands Hatch. Johnny est impliqué dans un grave accident causé par un contact avec Gregor Foitek. Sa voiture percute les barrières à haute vitesse, lui infligeant de graves blessures aux chevilles et aux pieds, les médecins envisageant même l'amputation. Cet accident a mis sa saison, mais aussi sa carrière, en péril. Le matin de l'accident, il avait signé un contrat avec Benetton pour courir en F1.
Johnny débute néanmoins la saison 1989 au Brésil, où il termine quatrième après avoir été porté pour entrer dans sa Benetton ! Mais, handicapé par ses chevilles douloureuses, il est remplacé par Emmanuele Pirro après sa non-qualification au Canada. Il retrouve néanmoins un volant chez Tyrrell pour les Grands Prix de Belgique (abandon) et du Portugal (non qualifié), où il remplace Jean Alesi (retenu par le championnat de F3000).
En 1990, il part pour le Japon où il court en Sports Prototype et en Formula Nippon. Lotus fait appel à lui pour remplacer Martin Donnelly (blessé) lors des deux derniers Grands Prix de Formule 1 de la saison. Qualifié en milieu de grille, il abandonne lors des deux courses.
En 1991, Johnny participe conjointement au championnat de F3000 japonaise et au championnat du monde de Formule 1. Il participe à sept Grands Prix avec Lotus à la demande de Peter Collins, mécontent du titulaire Julian Bailey. Cette même année, il est engagé par Mazda pour piloter en endurance. Au volant de la japonaise à moteur rotatif, Johnny, associé à Volker Weidler et Bertrand Gachot, remporte les 24 Heures du Mans.
En 1992, il fait enfin sa première saison complète en Formule 1 chez Lotus. Bien qu'il marque un point dès le premier Grand Prix, le reste de sa saison est médiocre. Il ne marque que deux points après avoir abandonné onze fois. La saison suivante, toujours chez Lotus, il réalise quelques coups d'éclat (trois quatrièmes places) dans une écurie en perte de vitesse. L'année 1994 est pour lui une année désastreuse : il ne marque aucun point. Mais en fin de saison, Flavio Briatore l'appelle pour courir chez Ligier lors du Grand Prix d'Europe, puis chez Benetton pour les deux dernières courses, où il remplace Jos Verstappen.
En 1995, Johnny est donc titulaire chez Benetton pour ce qui sera sa meilleure saison en Formule 1, même s'il est dans l'ombre de son prestigieux coéquipier Michael Schumacher. Le premier moment fort de sa saison est survenu lors du Grand Prix d'Espagne où il monte pour la première fois sur le podium en terminant deuxième. Puis, lors du Grand Prix de Grande-Bretagne, il remporte sa première victoire en Formule 1. Cette course est marquée par l'accrochage entre Damon Hill et Michael Schumacher, ce qui permet à Johnny de prendre la tête et de décrocher une victoire inattendue mais méritée, devant son public à Silverstone, renforçant son statut de héros local. En Italie, il va de nouveau profiter des abandons devant lui pour remporter sa deuxième victoire. Avec un quatrième podium au Japon, il se classe quatrième du championnat des pilotes.
En 1996, Johnny rejoint Sauber. Malgré un début de saison calamiteux, il parvient à revenir et à malmener son coéquipier H.H. Frentzen, décrochant au passage un podium à Monaco. L'année suivante, il élimine ses différents coéquipiers, ajoutant un autre podium en Hongrie à son palmarès. En 1998, le bouillant Jean Alesi le rejoint dans l'équipe. Il fait une saison décevante ne marquant qu'un point, alors que Jean en marque neuf. Il est remercié à la fin de l'année et signe chez Stewart.
Là encore, il est dominé la majeure partie de la saison par son coéquipier Rubens Barrichello. Son début de saison est catastrophique puisqu'il abandonne lors des cinq premières courses. Il termine ensuite cinquième au Canada, mais enchaîne ensuite par sept Grands Prix hors des points. Au Grand Prix d'Europe, disputé sur le circuit du Nürburgring, Johnny s'élance de la 14e position sur la grille. Il profite des conditions météorologiques changeantes et des erreurs de ses concurrents pour remonter dans le classement. Grâce à une stratégie de course impeccable et à une conduite maîtrisée, il décroche une victoire complètement inattendue. Ce succès a été d'autant plus significatif qu'il a marqué l'apogée de l'équipe Stewart, rebaptisée Jaguar l'année suivante.
Malheureusement, il ne marque aucun point avec Jaguar en 2000 et, pour son dernier Grand Prix, il est victime d'un terrible accident dû à une rupture de suspensions. Il s'en sort avec quelques contusions, mais les commissaires sont obligés de le porter hors de sa voiture. La boucle était bouclée et il déclare : « J'ai commencé ma carrière en F1 en étant porté dans ma voiture, je la termine en étant porté pour en sortir. »
En 2001, il est engagé comme pilote d'essai par Arrows. On le retrouve ensuite en endurance, où il remporte les 12 Heures de Sebring en 2002 avec Audi, puis se classe trois fois deuxième des 24 Heures du Mans en 2002 (sur Audi), 2003 (sur Bentley) et 2004 (sur Audi). En 2004, il remporte le championnat Le Mans Series, après avoir gagné les courses de Monza et de Spa.
A partir de 2012, il devient consultant pour la chaîne Sky Sports F1.
Pieyre