Même s'il impressionna lors de ses sorties en F1, c'est surtout à partir de ses courses de voitures de sport qu'Olivier Gendebien se fera un nom.

Après avoir était dans la résistance durant la seconde guerre mondiale, Olivier part travailler comme ingénieur agronome au Congo Belge, aujourd'hui République Démocratique du Congo. Il y fait la connaissance d'un pilote de rallye, et devient son copilote une fois arrivé en Europe. A partir de 1952, il court en F2, puis passe aux voitures de sport en 1953. Au début, il ne dispute que quelques courses pour l'Ecurie Belge. En 1955, il se classe cinquième lors des 24 heures du Mans endeuillée par l'accident de Pierre Levegh. La Scuderia Ferrari, intéressée par ce talent, le fait signer pour le reste de la saison. En 1956, c'est Ferrari qui le fait débuter en Formule 1.

Lors de sa première course dans l'élite du sport automobile, en Argentine, Olivier se classe cinquième. Il dispute une autre course de F1 en France. Il se consacre surtout dans les voitures de sport, et se classe de nombreuses fois sur le podium, notamment deuxième à Buenos Aires et à Sebring, et troisième au Mans. En 1957, il termine deuxième au Nürburgring. L'année suivante, il remporte ses premières victoires, lors de la Targa Florio et des 24 heures du Mans. Il court trois courses en F1, se classant sixième en Belgique. La saison suivante, il participe à deux courses avec Ferrari, terminant au pied du podium à Reims. Cette année-là, il ne remporte aucune victoire en voitures de sport, il termine deuxième au Nürburgring.

En 1960, il court en Formule 1 pour la Yeoman Credit Racing Team, avec une Cooper-Climax, l'une des meilleures voitures du plateau. Dès sa première course, en Belgique, il termine à la troisième position, puis en France se classe deuxième derrière le champion du monde en titre, Jack Brabham. En voitures de sport, il remporte les 12 heures de Sebring avec Porsche et les 24 heures du Mans avec Ferrari. En 1961, il court le Grand Prix de Belgique avec Ferrari, il terminera quatrième derrière trois autres monoplaces de la Scuderia ! Il dispute sa dernière course de F1 avec une Lotus-Climax à Watkins Glen. Il remporte les 12 heures de Sebring, la Targa Florio et les 24 heures du Mans, cette année-là. En 1962, il remporte la Targa Florio pour la troisième fois et les 24 heures du Mans pour la quatrième fois ! Il s'adjuge aussi la victoire lors des 1000 km du Nürburgring. IL décide alors de prendre sa retraite, tout en participant à quelques courses rétro.