De club werd in 1883 gesticht. In 1912 behaalde de club de finale van de Schotse beker maar verloor daar van Falkirk FC. De hoogste plaats in de eerste klasse werd in 1922 bereikt toen ze 3de eindigde, achter The Old Firm.
In 1938 werd de club kampioen van de 2de klasse met 142 goals in 34 wedstrijden, een record dat vandaag nog steeds geldt.
De succesjaren van de club kwamen in de jaren 90 toen de League Cup gewonnen werd. In 1996 maakte de club haar eerste optreden in de UEFA Cup, na eerst clubs uit Faeröer en IJsland te verslaan verloor de club van Bayern München, de uiteindelijke winnaar.
Na het seizoen 1996/97 degradeerde de club echter. Het eerste seizoen in de 2de klasse werd nog een 3de plaats behaald maar de volgende seizoenen zakte de club steeds verder weg, in 2002 volgde een degradatie naar 3de. De Rovers konden onmiddellijk terugkeren maar in 2005 degradeerde de club opnieuw naar 3de. In 2009 promoveerde de club maar moest in 2017 weer een stapje terug doen.