Svarbiu XIX–XX a. sandūros momentu šiaurinės miesto dalies akį traukiančiu akcentu tapo savito silueto sinagoga ir beit midrašas (maldos namai, kuriuose buvo studijuojama Tora). Pirmoji sinagoga (medinė) pradėta statyti 1780–1820 m. kuomet Marijampolėje tarnybą atliko rabinas Haimas Perelmuteris (Haim Perelmuter). Jis yra laikomas šios sinagogos statybų iniciatoriumi. Pasak populiarios legendos, Marijampolės žydų bendruomenė neišgalėjo statyti nei beit midrašo, nei sinagogos, todėl rabinas Haimas Perelmuteris keliavo po kitas Lietuvos žydų bendruomenes ir rinko lėšas. Tačiau, kad ir kaip bebūtų, 1825 m. sinagoga jau veikė (tais metais joje buvo sakoma eulogija mirusio Rusijos caro Aleksandro I–ojo garbei).

1857 m. buvo parengti planai mūrinės sinagogos statybai, tačiau nauji žydų maldos namai ir šalia esantis beit midrašas pastatyti tik apie 1889 m. pagal Valerijaus Rybarskio projektą. XIX a. pabaigoje išvaizdūs klasicistinės architektūros pastatai tapo ryškiu Kauno gatvės pietinės dalies akcentu.

Antrojo pasaulinio karo metu sinagogos pastatai nenukentėjo, tačiau liko be šeimininkų (1941 m. hitlerininkai nužudė beveik visus Marijampolės žydus). Karo metu sinagoga ir beit midrašas virto belaisvių stovykla. Pokaryje sinagogos kompleksas buvo pritaikytas pramoninei veiklai. Po 1957 m. gaisro buvo nuspręsta pastatus rekonstruoti ir jau 1959 m. šioje vietoje, kur stovėjo dvi akį traukiančios žydų šventovės, iškilo nykios pramoninio pastato sienos. Ilgus metus čia veikė "Šešupės" fabrikas, vėliau UAB "Baltijos tekstilė". Iki šių dienų išliko tik kelios unikalios žydų religinio centro architektūrinės detalės – aukštas pusapvalis langas (vakarinėje dalyje), apsidė, kampiniai piliastrai, karnizai (rytinėje dalyje) ir didžiosios sinagogos rūsiai.