Disciple au Conservatoire de Paris d'Aline Van Barentzen, de Vlado Perlemuter, de Pierre Sancan et de Jean Hubeau, Jacques Rouvier y obtient les 1ers Prix de Piano (1965) et de Musique de chambre (1967), et complète sa formation dans les classes d'Harmonie et de Direction d'orchestre.
Après avoir reçu les conseils de Jean Fassina, il obtient de nombreuses récompenses internationales (Prix Viotti à Vercelli, Maria Canals à Barcelone, Marguerite Long-Jacques Thibaud, Union Européenne de Radio). Lauréat de la Fondation de la Vocation, il fonde en 1970 avec Jean-Jacques Kantorow et Philippe Muller un trio avec lequel il se produit toujours. Nommé Professeur de Piano au CNSMDP en 1979, Jacques Rouvier a formé de jeunes artistes qui ont débuté depuis lors une brillante carrière, dont H. Grimaud, C.-M. Leguay, F. Braley, P. Giusiano, Y. Yokoyama, A. Volodos ou P. Benoît.
Membre de jury de grands concours internationaux de piano (M. Long-J. Thibaud, Montréal, Dublin, Tchaïkovski de Moscou), Jacques Rouvier anime des master classes dans le monde entier (Académies internationales de musique de Prades, Académie Ravel à Saint-Jean-de-Luz, Nice, Les Arcs, Courchevel, Madrid, Amsterdam, Dresde, Berlin, Cleveland, Montréal, Vancouver, Tokyo, Hamamatsu Music Session, Elisabeth College d'Hiroshima...).
Jacques Rouvier a enregistré une cinquantaine de disques, dont l'œuvre intégrale de Ravel (deux Grands Prix du Disque, pour le piano et pour la musique de chambre) et de Debussy.