Kapinės tarp A. Civinsko ir Alyvų gatvių buvo įkurtos XVIII a. viduryje. 1758 m. marijonams suteiktoje privilegijoje nurodyta konkreti vieta kapinėms įkurti: "tarp Šešupės ir daržų". Tuomet tai buvo teritorija už mieto ribų, netoli bažnyčios.

Manoma, kad šiaurinėje sklypo dalyje buvo palaidotos 1710 m. maro aukos, todėl ta teritorija iki šių dienų neliečiama ir nekasinėjama. Kapinių šiaurės rytinėje dalyje stovėjusi raudonų plytų koplyčia galėjo būti pastatyta dar XVIII a. pabaigoje. Atlikti tyrinėjimai leidžia teigti, kad kapinėse būta daugiau statinių, privačių koplytėlių. Daugybę abejonių kelia ir teiginys, kad jose galėjo būti palaidota miesto įkūrėja grafienė Pranciška Butlerienė. Ilgą laiką kapinėse laidojo tik katalikų tikėjimo žmones, todėl neįmanoma tiksliai pasakyti, kiek šiose kapinėse palaidota kitų konfesijų krikščionių.

Miestui augant aplink kapines buvo statomi gyvenamieji namai, todėl 1831 m. palaidojus apie 100 sukilėlių, kapinėse beveik nebeliko laidojimui tinkamos vietos. Dar 1816 m. katalikų bažnyčios vadovybė nurodė, kad kapinės būtų įrengiamos toliau nuo bažnyčių už gyvenviečių ribų. 1846 m. nurodymą pakartojus katalikai pradėti laidoti naujose kapinės Liudvinavo g. (dabar P. Armino g.). 1850 m. senosios kapinės buvo uždarytos, nors dar keletą metų vienas kitas miestelėnas atguldavo amžinojo poilsio šalia savo artimųjų. Spaudos draudimo laikotarpiu kapines pradėjo "lankyti" knygnešiai kadangi jose buvo slepiama iš pasienio atgabenta lietuviška spauda. Neprižiūrimos kapinės nyko. XX a. ketvirtame dešimtmetyje kapines prižiūrėti ėmėsi Alyvų gatvėje įsikūrę "Lietuvaičių Sesučių Draugijos" narės.

Sovietmečiu draugijos pastatas buvo nacionalizuotas, 1948 m. jame įkurti vaikų namai, o kapinės sunaikintos: nugriauta koplytėlė, išvežti paminklai ir antkapiai. 1968 m. per jas nutiestas privažiavimo kelias, kapinių teritorijoje įrengtas sporto aikštynas, pastatyta geležinė tvora. Taip buvo sunaikinta labai svarbi Marijampolės miesto istorijos dalis.

Atkūrus Lietuvos nepriklausomybę, kapinės įtrauktos į valstybės saugotinų paveldo paminklų sąrašą. 2014 m. Marijampolės savivaldybės ir privačių rėmėjų lėšomis nuniokota ir apleista vieta buvo sutvarkyta. Teritorijos sutvarkymo projektą parengė architektas Gintautas Vieversys. 2014-10-09 kapinių centre buvo atidengtas skulptoriaus Juliaus Narušio sukurtas paminklas. Dar du paminkliniai akmenys pastatyti prie įėjimų į kapines.