XIX a. pab. carinė Rusija, kuri tuo metu buvo užgrobusi dabartinės Lietuvos teritoriją, ėmėsi stiprinti vakarines savo sienas. Alytus buvo paskelbtas III klasės tvirtove, esančia Nemuno upės pusiaukelėje tarp Kauno ir Gardino – I klasės tvirtovių. Mieste rekonstruoti ar naujai nutiesti plentai, užtikrinę greitą ir gerą susisiekimą su aplinkiniais miestais. Geležinkeliu Alytus sujungtas su Suvalkais ir Vilniumi. Be to, vyko kareivinių statybos (artilerijos, pontono ir Saratovo), kuriose vėliau įsikūrė 4 tūkst. karių. Kareivinės Alytuje pastatytos pagal sudarytą keturių fortų tvirtovės planą.

Piečiausias iš Alytaus fortų - ketvirtasis, orientuotas į pietvakarius, pastatytas kelio į Seirijus vingyje. Tvirtovės generaliniame plane rašoma, kad IV fortas sudaro vieningą kompleksą su Nemuno link besileidžiančia griova ir piliakalniu. 1906 m. tvirtovė įvertinta kritiškai, IV fortas įvardintas kaip silpniausias, nes stačiuose, miškinguose šlaituose sunku judėti kariams ir technikai, priešas lengvai gali prieiti prie gynybos linijos mišku, o neapšaudoma upės pakrante patekti į užnugarį. Nė vienas Alytaus fortas nebuvo panaudotas miesto gynybai.

Sovietmečiu IV forto teritorijoje buvo auginami sodinukai miškams.

II ir III fortai neišliko. 1965 m. II fortas buvo susprogdintas. Po kelerių metų jo vietoje išdygo Alytaus medvilnės kombinatas (Pramonės g.). III fortas buvo dabartinio pastato Ūdrijos g. 38 vietoje. Tai mažiausias fortas (4,7588 ha) ir vietinių vadinamas šlapiuoju, nes viena jo dalis buvo pastatyta pelkėje.