Iniziò la carriera nel Montpellier, con cui debuttò in Ligue 1 molto giovane, nel 1998. Nel 2002 fu ceduto al Lione, che da allora detiene la proprietà del cartellino del giocatore. Nel 2004-2005 ha giocato in prestito nello Strasburgo, collezionando soltanto 5 presenze prima di tornare al Lione. È il vice di Grégory Coupet. Nella stagione 2007-2008 è diventato titolare dopo il serio infortunio del compagno, costretto a rimanere lontano dai campi di gioco per almeno quattro mesi a partire dal 2 agosto 2007.
Nel mercato estivo del 2014 passa al Caen a titolo definitivo[1].
Rémy Vercoutre comincia la carriera da allenatore in Canada a partire da dicembre 2018, dove viene assunto come preparatore dei portieri del Montréal Impact con cui rimane per due anni e mezzo.[2] Difatti, a partire dal 1º giugno 2021 passa al Olympique Lione con lo stesso ruolo che gli era stato assegnato a Montréal.[3]