Grande organizzatore e stratega militare, assunse nel 1939 la carica di Capo di Stato maggiore dell'Esercito degli Stati Uniti, mantenendo l'incarico per tutta la seconda guerra mondiale e divenendo il principale consigliere militare del presidente Franklin Delano Roosevelt, che riponeva piena fiducia nelle sue capacità.
Pur non assumendo mai comandi operativi sul campo, Marshall, personalità austera e autorevole che godeva di grande prestigio all'interno delle forze armate, diresse dagli Stati Uniti lo sforzo bellico globale del paese e svolse un ruolo decisivo per il potenziamento dell'esercito americano che si trasformò nel corso del conflitto in una potente ed efficiente macchina da guerra completamente motorizzata in grado di vincere sia in Europa che sul fronte del Pacifico.
Dopo la seconda guerra mondiale, come segretario di stato del presidente Harry Truman, legò il proprio nome ad un piano per la ricostruzione post-bellica in Europa, passato alla storia come Piano Marshall.
In questa carica riorganizzò profondamente le forze armate statunitensi nella prospettiva della guerra, ed esercitò una grande influenza sulla condotta delle operazioni in tutti gli scacchieri bellici del mondo.
Nel 1941 entrò a far parte della Massoneria come membro "a vista" (cioè senza cerimonia rituale d'iniziazione) per intervento del Gran Maestro della Gran Loggia del District of Columbia[1].
Partecipò anche alle conferenze interalleate di Casablanca, Jalta e Potsdam, in cui vennero decise le grandi linee strategico-politiche della guerra. Dopo la vittoria tentò, senza successo, una mediazione tra Mao Zedong e Chiang Kai-shek per evitare la guerra civile in Cina.