Egli iniziò la sua carriera militare nella guerra Boshin contro lo shogunato Tokugawa, ottenendo il grado di tenente nell'esercito imperiale. Durante la ribellione di Satsuma del 1877 fu ferito e perse la mano destra, ma questa disabilità fisica non gli impedì di proseguire la sua futura carriera militare e politica.
Nel 1882, dopo essere stato inviato in Francia per studi militari come attaché militare, Terauchi ottenne diversi incarichi militari di rilievo. Egli fu il primo Ispettore Generale per l'Educazione Militare nel 1898, rendendo tale incarico uno dei tre posti di maggior rilievo nell'esercito imperiale. Venne nominato quindi Ministro della Guerra nel 1901 durante il primo governo Katsura. La vittoria dei giapponesi nella guerra russo-giapponese (1904–1905) si ebbe durante la sua tenuta del ministero. Dopo la guerra, venne nobilitato col titolo di danshaku (barone), e nel 1911 ottenne il titolo di hakushaku (conte).
L'annessione della Corea al Giappone e le successive politiche introdotte dal nuovo governo furono largamente impopolari presso la popolazione coreana e Terauchi rispose con l'impiego di molte forze militari per controllare il territorio. Terauchi utilizzò i moli e profondi legami storico-culturali tra Corea e Giappone come giustificazione per la completa assimilazione della Corea allo stato giapponese. Per questo motivo, centinaia di scuole vennero aperte in Corea che, pur contenendo tracce della cultura locale, erano essenzialmente improntate sul modello giapponese, con l'intento di assimilare la popolazione ad un comportamento di leali sudditi dell'impero giapponese.
Altre politiche di Terauchi furono orientate a migliori fini ma con pessime conseguenze. Un esempio di tale pratica fu la riforma della terra che necessitava disperatamente in Corea. I proprietari terrieri in Corea erano perlopiù assenti, o erano in parte proprietari ed in parte coltivatori, oltre che agricoltori singoli senza certificazioni legali di possesso della terra. L'amministrazione di Terauchi propose come immediata soluzione la creazione di un catasto in Corea che descrivesse le proprietà ed i loro proprietari, radunando tutti i documenti utili in un unico archivio. La proprietà venne negata a quanti non potevano disporre di una documentazione scritta a favore della loro causa (gran parte delle classi più povere vantavano il cosiddetto "diritto di coltivazione" verbale). Anche se dunque il piano ebbe successo, da un lato esso sfavorì le classi meno abbienti e anzi spinse le terre rimaste a passare nelle mani dei ricchi proprietari giapponesi.
Isabel Anderson che visitò la Corea ed incontrò Terauchi nel 1912 scrisse:[2]
«Il governatore generale giapponese, il conte Terauchi, è un uomo forte ed abile, e sotto la sua amministrazione sono stati raggiunti molti obbiettivi in Corea. Questo non sempre è stato possibile senza frizioni tra la popolazione locale ed i nuovi conquistatori, bisogna dirlo, ma il risultato è stato senz'altro stupefacente. Il governo venne riorganizzato, vennero stabiliti tribunali locali, e le leggi vennero riviste, così come le condizioni di commercio che regolavano gli scambi all'interno ed all'esterno. L'agricoltura è stata incoraggiata con l'apertura di stazioni sperimentali, oltre alla costruzione di ferrovie dalla costa all'interno, e porti con fari navali. Le spese giapponesi in Corea hanno ormai superato i 20.000.000 di dollari l'anno.»
Nel 1916, Terauchi divenne il 18º primo ministro del Giappone. Durante quello stesso anno, egli ricevette la sua promozione al rango cerimoniale di feldmaresciallo. Il suo gabinetto di governo era composto unicamente da burocrati di carriera dal momento che egli era avverso a chi perseguisse carriere di tipo civile. Durante parte del proprio governo egli mantenne per sé la carica di Ministro degli Affari Esteri e delle Finanze.
Nel settembre del 1918, Terauchi diede le dimissioni dal proprio incarico per via della rivolta del riso del 1918 che aveva aumentato l'inflazione giapponese dopo la guerra. Morì l'anno successivo.
^Per i biografati giapponesi nati prima del periodo Meiji si usano le convenzioni classiche dell'onomastica giapponese, secondo cui il cognome precede il nome. "Terauchi" è il cognome.
Impero Giapponese
.png){kind=small}
.svg){kind=small}
_Commandeur_ribbon.svg){kind=small}
.png){kind=small}
Wikimedia Commons contiene immagini o altri file su Masatake Terauchi
.svg){kind=small}
