La società nacque nel 1885 dalla fusione di due squadre preesistenti, il Luton Wanderers e il Luton Excelsior. Nel 1894 fu fra i membri fondatori della Southern League, campionato alternativo alla Football League per le squadre del sud dell'Inghilterra. Tuttavia nel 1897 fu ammesso alla Football League, dove rimase fino al 1900, per tornare alla Southern League.
Nel 1920 fu riammesso alla Football League, entrando a far parte della Third Division, che vinse nel 1937 ottenendo la promozione alla Second Division dopo vari tentativi falliti.
Nel 1939 il campionato fu sospeso con la squadra prima in classifica dopo 3 giornate, ma si dovette attendere nel 1955 per la prima promozione in First Division. Nel 1959 arrivò alla miglior prestazione in FA Cup, con la finale persa contro il Nottingham Forest, mentre in campionato non andò oltre l'ottavo posto del 1957.
Nel 1960 la squadra fu retrocessa in virtù dell'ultimo posto ottenuto e finì in caduta libera fino alla Fourth Division, ove militò fra il 1965 e il 1968, quando vinse il campionato riprendendo la salita verso la prima divisione, in cui militò ancora una stagione, nel 1974-75.
Fino al 1982 militò ancora fra i cadetti, prima di giocare per dieci stagioni consecutive in First Division e di centrare il settimo posto (primato del club) nel 1987. L'anno seguente arrivò l'unico successo nella storia della squadra, la League Cup, nella finale contro l'Arsenal. La partita era sul 2-1 quando Nigel Winterburn fallì un rigore e, a sette minuti dal termine, il Luton Town riuscì ad andare a segno per due volte consecutive, conquistando sorprendentemente il trofeo. Non disputò tuttavia la Coppa UEFA, a causa della squalifica nelle coppe europee inflitta alle società inglesi dopo la strage dell'Heysel del 1985.
Iniziata la stagione 2008-2009 con 30 punti di penalizzazione per inadempienze finanziarie la squadra non è riuscita nell'impresa di restare nella categoria: pur realizzando un monte gare da media classifica la compagine non è riuscita a staccarsi dall'ultimo posto chiudendo alle spalle del Chester, anch'esso retrocesso, a 26 punti.
1907-1908 - 18ª in Division One della Southern Football League e 4° in Western Football League 1B.
1908-1909 - 9ª in Division One della Southern Football League e 4° in Western Football League 1A. A fine stagione lascia la Western Football League per giocare solo ed esclusivamente in Southern League.
1909-1910 - 15ª in Division One della Southern Football League.
1910-1911 - 9ª in Division One della Southern Football League.