Gavin DeGraw började sin karriär med att spela på klubbar i hemstaden New York där han snabbt gjorde sig ett namn. Han blev upptäckt av Randy Sabiston (chef över A&R på Warner Chappell) som gav honom ett skivkontrakt på fläcken. Några år senare skrev Gavin DeGraw på för J Records och legendariske skivbolagsbossen Clive Davis, mannen bakom bland andra Whitney Houston, Luther Vandross och Maroon 5. Resultatet av samarbetet blev debutalbumet Chariot.
Gavin DeGraw har två platinaskivor i bagaget. Hans låt "I Don't Want to Be" blev känd som ledmotivet till tv-serien One Tree Hill. Singeln "Chariot" har spelats i radio och TV och videon är regisserad av Zach Braff, mannen bakom independentfilmen Garden State och som även spelar J.D. i tv-serien Scrubs.
17 maj 2011 släppte DeGraw singeln "Not Over You". Hans album "Sweeter" släpptes den 9 augusti samma år.