Kauno tvirtovės įkūrimo priežasčių buvo keletas: XIX a. II pusėje stiprėjant Vokietijai reikėjo apsaugoti vakarinius Rusijos imperijos pakraščius, o taip pat po Rusijos ir Turkijos karo pablogėję santykiai su Vokietija; svarbūs buvo ir 1812 m. įvykiai, kuomet Napoleono armija be jokių problemų persikėlė per Nemuną ties Kaunu ir nužygiavo į Rusiją. 1881 m. imperatorius Aleksandras II pasirašė įsakymą pradėti Kauno pasienio tvirtovės statybą. Kauno karinė tvirtovė - tai ištisa įtvirtinimų sistema, pastatyta 1882 - 1918 metais, tačiau skirta ne tik gynybai, bet ir puolimui. Kauno karinės tvirtovės administracinių pastatų sklypo išplanavimo projektas dabartiniame Naujamiestyje patvirtintas 1890 m. kovo 29 d., o teritorija padalinta į 7 zonas.

Komendanto rūmų ir komplekse esančių kitų pastatų statybos projektus pasirašė karo inžinieriai Popovas ir Vladimiras Nepliujevas. Iki XX a. pradžios visi komplekso pastatai buvo pastatyti. Komendanto rūmai išlaikė savąją paskirtį iki 1915 m. rugpjūčio 18 dienos, kuomet kaizerinės Vokietijos kariuomenė juos užėmė. Rūmai įėjo į Europos istoriją, kai tvirtovėje įsikūrė Vokietijos kariuomenės Rytų fronto štabas, o jam vadovavo feldmaršalas Paulius von Hindenburgas. Pasibaigus karui ir atgavus Nepriklausomybę pastatų kompleksą perėmė Lietuvos Vyriausybė. Tarpukariu dabartinio komplekso Komendanto rūmuose įsikūrė Krašto apsaugos ministerija, Generalinis štabas, 28-os divizijos štabo pastate - Žemės ūkio ministerija, o Intendantūros pastatas tapo Kariuomenės teismo rūmais.

Komendantų rūmuose 1925-1926 metais dirbo Lietuvos kariuomenės kūrėjas, savanoris, nepriklausomybės kovų dalyvis, generalinio štabo pulkininkas Kazys Škirpa (1895-1979). 1935-1940 m. rūmuose dirbo Lietuvos kariuomenės vadas, generolas Stasys Raštikis (1896-1985). Rūmų paskirtis ir struktūra nebuvo keičiama iki II pasaulinio karo. 1940 metais Lietuvą okupavus Sovietų Sąjungai Komendantų rūmuose įsikūrė SSRS 11-osios armijos štabas. Vokiečių okupacijos metais rūmuose veikė Užnugario srities vadas, vėliau juose įsikūrė Ostlando kariuomenės vadas, o nuo 1941 m. pabaigos iki karo pabaigos rūmuose rezidavo prieš karą buvęs Vokietijos karo atašė Lietuvoje generolas Emilis Justas - Lietuvos srities vyriausiasis karo komendantas. Dar kartą SSRS okupavus Lietuvą rūmuose įsitvirtino sovietinė kariuomenė. 28-osios divizijos štabo pastate 1945-1964 m. veikė Lietuvos žemės ūkio akademija. Nuo 1948 m. iki pat sovietų kariuomenės išvedimo iš Lietuvos pastatuose įsikūrė SSRS kariuomenės 7-osios oro desanto divizijos vadovybė.

Atkūrus Nepriklausomybę dauguma komplekso pastatų atiteko Lietuvos kariuomenės Karinėms oro pajėgoms, išskyrus Intendantūros pastatą, kuriame įsikūrė laikraščio "Ūkininko patarėjas" redakcija, o 28-osios divizijos štabo pastate - KTU Mechanikos fakultetas.