Carlo si sposò la prima volta ad Odessa, allora in Russia, il 31 agosto 1918, contravvenendo alla legge reale, con Joanna Marie Valentina Lambrino, (1898-1953), figlia di un generale rumeno; i due ebbero un solo figlio, Mircea Gregor Carol Lambrino, e il matrimonio fu annullato per decisione del tribunale di Ilfov nel 1919. Si sposò in seguito ad Atene il 10 marzo 1921 con sua cugina di secondo grado, la principessa Elena di Grecia e Danimarca, ma il matrimonio fallì presto con il sorgere della relazione con Magda Lupescu (1895?-1977), la figlia cattolica di un farmacista ebreo. A causa dello scandalo, Carlo rinunciò ai suoi diritti sul trono nel dicembre 1925 in favore del figlio Michele (Mihai), che divenne re nel luglio 1927. Elena divorziò da Carlo nel 1928. Carlo ebbe anche un figlio e una figlia dall'amante Maria Martini, una studentessa di scuola superiore.
Carlo tornò in patria inaspettatamente il 7 giugno 1930 e fu proclamato re il giorno seguente. Per il decennio successivo, cercò di influenzare la vita politica rumena, prima attraverso la manipolazione delle fazioni rivali dei contadini e dei liberali, e poi (gennaio 1938) con un ministero di sua nomina. Sempre nel 1938 bandì la Guardia di Ferro, che invece aveva sostenuto negli anni trenta. Carlo cercò anche di costruire un proprio culto della personalità per contrastare la grande influenza della Guardia di Ferro, creando un'organizzazione giovanile paramilitare conosciuta come Straja Ţării nel 1935.
Obbligato prima dai sovietici e poi da ungheresi, bulgari, italiani e tedeschi a cedere parti del suo regno al dominio straniero, fu convinto infine dall'amministrazione filo-tedesca del maresciallo Ion Antonescu ad abdicare in favore del figlio Michele, stabilendosi in Portogallo. Si ritiene che Carlo lasciò la Romania in treno portandosi dietro i tesori reali (dipinti di importanti maestri come Tiziano, Rubens, e Rembrandt, gioielli e armature preziose); un gruppo di legionari della Guardia di Ferro sparò verso il treno reale, ma non riuscì a fermarlo. Carlo e Magda Lupescu si sposarono a Rio de Janeiro, in Brasile, il 3 giugno 1947, e Magda prese il titolo di principessa Elena von Hohenzollern. Carlo rimase in esilio per il resto della sua vita.
Carlo morì in Portogallo nel 1953; i suoi resti tornarono in Romania nel 2003 e furono deposti nel monastero della cattedrale di Curtea de Argeş, insieme agli altri re rumeni. Il figlio e successore, Michele, non partecipò alla funzione, ma fu rappresentato dalla figlia, la principessa Margherita e dal principe Radu, suo marito.