Surnommé « La grouille », Olivier Grouillard fut l'un de ces nombreux pilotes qui rêvaient, à la fin des années 1980, de suivre les traces d'un certain Alain Prost.

Olivier se passionne très vite pour la course automobile. Après neuf saisons passées en karting, il remporte le volant Elf en 1981. L'année suivante, Elf lui finance donc une saison entière en Formule Renault qu'il termine à la quatrième place. Grimpant en F3, il ne lui faut que deux saisons pour remporter le championnat de France, sur une Martini-Alfa Roméo du team Oreca.

Son accession en F3000 n'en est que plus logique, et la saison 1985 s'achève sur une douzième place au classement final. Les deux saisons suivantes sont aussi décevantes pour Olivier, qui stagne dans le milieu de peloton. L'envol a lieu en 1988, quand il termine deuxième du championnat de F3000 avec deux victoires, obtenues au Mans et à Zolder. Parallèlement, il participe au championnat du monde des voitures de tourisme sur une BMW M3 avec l'aide d'un certain Jacques Laffite.

Il est alors appelé pour remplacer Stefan Johansson chez Ligier, en vue de la saison 1989. Il accepte et entame ainsi sa carrière en F1. Il domine allègrement son équipier René Arnoux et parvient même à terminer sixième lors du Grand Prix de France. Il réalise de belles performances en qualifications et se montre redoutable à dépasser. Il ne se fera d'ailleurs pas que des amis parmi les autres pilotes de pointe. La surprise est grande lorsqu'il est évincé de l'équipe Ligier. Il ne lui reste alors plus qu'un des derniers baquets libres : celui de l'Osella.

L'année 1990 commence de manière superbe pour le Toulousain, qui décroche une magnifique huitième place sur la grille de départ du Grand Prix des Etats-Unis. Un autre exploit est de voir Olivier et son Osella au départ d'un Grand Prix à neuf reprises cette saison. Mais la lenteur de la voiture l'empêche de réaliser un résultat significatif en course.

Cette année-là, il participe à l'épreuve de Mid-Ohio du championnat IMSA avec Jean-Pierre Jabouille au volant d'une Ferrari F40 LM et termine à la troisième place. Il a moins de réussite au 24 Heures du Mans puisque la boîte de vitesses de sa Nissan rend l'âme dès le premier tour de course.

La saison suivante en F1 ne s'annonce pas sous les meilleurs auspices pour lui. Après une année passée à observer et à apprendre, Fondmetal prend totalement le contrôle d'Osella en 1991. Mais les moyens du team restent limités. Sur les treize participations d'Olivier, sa Fondmetal ne parvient à se hisser que quatre fois sur la grille de départ d'un Grand Prix. En septembre, Olivier reçoit un fax lui signifiant son licenciement à la suite de ses « mauvaises performances ». Pour le Grand Prix d'Espagne, il remplace Gabriele Tarquini (qui a été engagé par Fondmetal) chez AGS, mais il est éliminé dès les préqualifications. AGS ayant mis la clé sous la porte, Olivier se retrouve sans volant pour les deux derniers Grands Prix.

Néanmoins, il parvient à trouver un volant pour l'année suivante chez Tyrrell. Mais l'équipe n'est plus que l'ombre d'elle-même. Olivier ne parvient pas à inscrire le moindre point. La faute à une fiabilité médiocre, mais également à de nombreuses erreurs de pilotage. Il n'en faut pas plus pour que sa carrière en F1 soit condamnée.

Par la suite, il fera une brève incursion dans le championnat IndyCar en 1993, puis courra en GT et en sport prototypes. Dans cette catégorie, il termine notamment quatrième des 24 Heures du Mans 2000 au volant d'une Courage de l'équipe Pescarolo Sport, avec Sébastien Bourdais et Emmanuel Clérico.