XIX a. pab. stiprinant vakarinę Rusijos imperijos sieną įtvirtinti miestai prie Nemuno - Kaunas, Alytus, Gardinas. Alytus buvo fortifikuotas įrengiant jame 3 (priešpaskutinės) klasės tvirtovę, skirtą tiltams ir perkėloms per Nemuną ginti. Statybinių medžiagų tiekimui ir greitam susisiekimui tarp karinių įgulų buvo plėtojamas geležinkelių tinklas. 1895 m. nutiesta geležinkelio atkarpa nuo Varėnos stoties iki Poteronių. Tai buvo geležinkelio magistralės Sankt Peterbugas - Varšuva atšaka, vedusi pro neseniai Varėnos šiauriniame pakraštyje įkurtą Vilniaus karinės apygardos kariuomenės vasaros stovyklą ir artilerijos poligoną. Tuo pačiu metu pradėta geležinkelio atšakos statyba priešinga kryptimi - iš Gardino į Alytų pro Augustavą, Suvalkus, Šeštokus. Iš Varėnos ir Gardino atvestas atšakas sujungė 1899 m. pastatytas geležinkelio tiltas per Nemuną. Taip buvo užbaigtas Užnemunės geležinkelis, vadintas Suvalkų žiedu. Alytuje buvo įrengta trečios klasės geležinkelio stotis.

Pirmojo pasaulinio karo metu besitraukianti rusų kariuomenė susprogdino geležinkelio tiltą. 1922-1924 m. pastatyta atšaka nuo Kazlų Rūdos į Šeštokus per Marijampolę, Alytus tapo sujungtas su Lietuvos geležinkelių sistema. Atstačius laikiną medinį tiltą traukinių eismas pro Alytų iki Artilerijos stoties vyko iki 1926 m. Išardžius nesaugų tiltą atšaka į Varėną apleista ir ilgainiui išardyta. Antrojo pasaulinio karo metu susprogdinta didžioji Alytaus geležinkelio stoties keleivių namo dalis. Karo pabaigoje ir pokariu išardytas ir vakarinis geležinkelio ruožas Alytus-Šeštokai. Pokariu nugriautas vandens bokštas. Vakarų krypties geležinkelio atkarpa pro Šeštokus atstatyta 1959 m. Taip Alytus buvo sujungtas su TSRS geležinkelių tinklu, neatkuriant ruožo į Varėną ir išvengiant tilto per Nemuną statybos. Nuo 1984 m. senosios Alytaus stoties vietoje liko tik krovininė stotis, o keleivinė perkelta į naująjį pastatą prie šiaurinio pramonės rajono.

1997 m. senoji stotis uždaryta, geležinkelis per miestą išardytas. Jo vietoje nutiestas pėsčiųjų ir dviratininkų (sveikatingumo) takas.