Avec un premier prix au Conservatoire de Paris dans lequel il est entré en 1948, il devait faire carrière en tant que chanteur d'opéra, mais, repéré par Robert Simon, il commence à jouer au cabaret au début des années 50 au sein de la troupe Les Branquignols.
Après de petites apparitions au cinéma dans les années 50, Jean Lefebvre devient l'un des acteurs les plus célèbres de sa génération dans les années 60 et 70 tant à l'écran qu'au théâtre, en incarnant souvent le personnage du "franchouillard" gentil et un peu hébété, "au regard triste de cocker" ( qualifié ainsi par
Lino Ventura ). Toujours dans un registre burlesque, il enchaîne ainsi les seconds rôles dans des comédies faisant de lui un acteur populaire reconnu.
Parmi les plus notables : son rôle de Paul Volfoni, mafieux niais dans
Les Tontons flingueurs, de Charly, garçon d'écurie donnant des tuyaux à
Jean Gabin dans Le Gentleman d'Epsom, de Goubi, idiot du village dans Un idiot à Paris, d'Armand, compère véreux de
Bernard Blier dans
Quand passent les faisans, de Léonard Michalon, petite frappe victimisée par Lino Ventura dans Ne nous fâchons pas, de Fougasse dans la série du
Gendarme de Saint-Tropez et de Pitivier dans de la Septième compagnie. Il reste dans les mémoires pour son comique de l'auto-dérision, dont il fit la trame de sa carrière.
A la suite de leur collaboration dans les Tontons Flingueurs, Jean Lefebvre et Bernard Blier se retrouvent souvent dans des comédies sans prétention où leur association rappelle celle des frères Volfoni :
Quand passent les faisans en 1965, Du mou dans la gâchette en 1966, C'est pas parce qu'on a rien à dire qu'il faut fermer sa gueule en 1974, ou encore Un idiot à Paris ou Le Fou du labo IV.
Il tourne avec les plus grands comédiens, comme
Jean Gabin,
Louis de Funès,
Orson Welles,
Lino Ventura,
Bourvil,
Paul Meurisse,
Jean-Paul Belmondo ou encore
Bernard Blier et
Michel Serrault avec lesquels il collabore souvent, ainsi qu'avec les plus grands cinéastes :
Georges Lautner,
Philippe de Broca,
Roger Vadim, Gilles Grangier, Jean Girault,
Costa-Gavras, Yves Robert,
Edouard Molinaro, Yves Allégret ou encore
Julien Duvivier.
Gros flambeur, son appétit pour les jeux d'argent oriente sa carrière vers une suite moins glorieuse. En effet, le succès le fuit à partir des années 80 ; il accepte de jouer dans des films pour rembourser ses nombreuses dettes de jeu et non pas pour la qualité de leur scénario. Il déclare ainsi : « J'ai tourné tellement de navets que ma carrière ressemble à un potager. »
Il applique tout au long de sa vie une philosophie d'inspiration hédoniste basée sur la jouissance du moment présent et l'ouverture vers l'autre. « Buvez un coup à ma santé, les jeunes. » nous dit-il en guise de conclusion.
Fin musicien dans Feu Adrien Muset, défenseur de l'agriculture hexagonale dans Tendrement vache, protecteur de la veuve et de l'orphelin dans Prends ta Rolls et va pointer, ambassadeur de la cause viticole, il donne une seconde jeunesse à l'oeuvre de Molière dans Château Magot.
Il s'était distingué au théâtre en jouant le double-rôle principal de la pièce Les Jumeaux. N'hésitant pas à donner de sa personne, il a réalisé une prestation d'un réalisme sans faille dans la pièce Les Vignes du Seigneur.