Mokytojų seminarijos parko gilumoje glaudžiasi dailus, istorizmo stiliaus, vienaukštis pastatas, kurį nuo praeivių žvilgsnių slepia 1944 m. įrengtos Tarybinies armijos karių kapinės ir medžių lapija. Tai carinės Rusijos armijos karininkų klubas arba mažieji Mokytojų seminarijos rūmai pastatyti XIX a. pabaigoje. Įdomu tai, jog pastatas vis dar vadinamas karininkų klubu, tačiau pagal pirminę savo paskirtį naudojamas nebuvo, todėl šis pastatas yra siejamas tiek su Marijampolės karinio miestelio, tiek su Marijampolės mokytojų seminarijos statinių kompleksais.

1919 m. čia įsikūrė Marijampolės mokytojų seminarija, kuri pagal besimokančiųjų skaičių buvo didžiausia švietimo įstaiga ruošianti pedagogus, turėjusi gerą materialinę bazę, pavyzdingai sutvarkytą teritoriją, nepriekaištingą kalbinę aplinką. 1926 m. pastačius naujuosius seminarijos rūmus, šiam pastatui prigijo mažųjų rūmų vardas. Ketvirtajame XX a. dešimtmetyje vakarinėje pastato dalyje sužaliuoja parkas, rytinėje – alyvomis apsodintas stadionas ir sodas. 1936–1938 m. uždarius Marijampolės mokytojų seminariją veiklą pradėjo mergaičių gimnazija (dabartinės R. Stankevičiaus pagrindinės mokyklos pirmtakė).

1944 m. Mokytojų seminarijos pastatuose įsikuria karo ligoninė, o prie mažųjų rūmų esanti parko dalis sunaikinama, kadangi ten buvo įrengti Tarybinės armijos karių kapai.

Iki 2014 m. šis pastatas buvo susijęs su pedagogus ruošiančių mokslo įstaigų veikla (Marijampolės mokytojų seminarija, Kapsuko Onos Sukackienės pedagoginė mokykla, Marijampolės aukštesnioji pedagogikos mokykla, Marijampolės kolegijos Edukologijos ir socialinio darbo fakultetas).