Westbury eut deux carrières en simultanée. La première était pilote de course de côte, la deuxième était pilote sur circuit. Il commence la compétition en 1962 sur une Cooper-Daimler, puis avec sa Felday en 1965, il participa à sa première course de côte Britannique.
L'année suivante, il conduit une Ferguson 4WD et se montre presque imbattable.

Il continua sur sa lancée en 1965, mais fut surtout occupé à monter la "Felday Engineering Firm". Il participe en 1967 au championnat de Formule 3 avec une Brabham BT21 et gagne à Silverstone, Chimay et Clermont Ferrand, puis en 1968 à Chimay et Reims.

La même année il rejoint la Formule 2, et avant de participer à sa première saison complète en 1969, il décroche une seconde place lors du Grand Prix Lottery à Monza et une cinquième place dans la catégorie des Grands Prix d'Allemagne de Formule 2.

Peter reçu la chance de participer au Grand Prix des USA 1970, grâce à BRM, mais son moteur casse avant les qualifications et il ne peut pas participer au Grand Prix, c'est une grosse déception pour le pilote.
Il continu cependant à courir en Formule 2 et fini souvent dans le top six en 1970 et 1971.

Au début de la saison 73, Westbury annonce son retrait de la compétition automobile.