Appassionato di sport, in particolare il basket e il tennis, all'età di 13 anni si trasferì con la famiglia a San Bernardino, in California, e dopo aver visto Ellsworth Vines, allora il miglior giocatore del mondo, giocare una partita Kramer decise di concentrarsi sul tennis.
Numero uno del mondo, a dispetto dei soli 3 slam vinti in carriera, prima di passare professionista e di essere privato della possibilità di partecipare ai tornei tradizionali è considerato uno dei più grandi tennisti di tutti i tempi. Il sopraggiungere della guerra limitò di gran lunga quelli che sarebbero potuti essere i suoi successi tra i dilettanti.[2]
Alto e magro, fu uno dei primi giocatori al mondo a svolgere un gioco basato sul serve & volley. Sbaragliò la concorrenza nelle sette partite giocate a Wimbledon 1947, concedendo ai suoi avversari solo 37 game, un numero che soltanto Björn Borg è riuscito a superare al Roland Garros 1978.[3] Si ritirò dall'attività agonistica nel 1954, a 33 anni, a causa di problemi alla schiena.
Ha anche partecipato alla nascita di quella che sarebbe diventata poi l'ATP, l'Associazione dei giocatori professionisti, della quale è stato il primo direttore nel 1972.[4] Autore, nel 1979, di un'autobiografia dal titolo The Game: My 40 Years in Tennis.
Kramer fu inserito nella International Tennis Hall of Fame di Newport, Rhode Island, nel 1968. Il Los Angeles Tennis Open fu noto per diversi anni come "Jack Kramer Open", l'unico evento del World Tennis Tour che ha portato il nome di un giocatore.[5]