À partir de 1958, Johnny fréquente ce qui bientôt devient le lieu culte du rock français : le Golf-Drouot, d'Henri Leproux. C'est là qu'il retrouve d'autres copains, futurs confrères et concurrents : Long Chris, Dany Logan, Jacques Dutronc et Eddy Mitchell. Sur le tremplin, s'inspirant de ses idoles, il chante des reprises et adaptations françaises du répertoire américain en s'accompagnant à la guitare34. À l'Orée du Bois, durant les changements de costumes de Desta et Lee, Johnny chante Elvis, sous les sifflets du public. Dès le second soir, il est renvoyé35. Accompagné par Philippe Duval, son premier guitaristei, il cherche à se produire dans divers clubs mais, partout le scénario est identique : on le refuse ou il est remercié. Il joue aussi avec ses amis Jacques Dutronc et Eddy Mitchell dans le square de la Trinité. Il obtient ses premiers succès publics en chantant pour les GIs dans les bases américaines35.

Le 30 décembre 1959, il participe à l'émission de radio Paris cocktail de Pierre Mendelssohn, avec en vedette Colette Renard. Il chante Viens faire une partie. Les auteurs-compositeurs Jil et Jan, enthousiasmés par sa prestation, le présentent à Jacques Wolfsohn de la maison de disques Vogue