Lietuvos žemes puldinėjant totoriams bei šlyjant santykiams su Rusija, Lietuvos didysis kunigaikštis Aleksandras 1503 m. suteikė Vilniui privilegiją pastatyti mūrinius įtvirtinimus aplink visą miestą. Sakoma, kad sienos kertinis akmuo buvo padėtas ten, kur kelias vedė į Medininkus, ir toliau – per Ašmeną Minsko link. Pašventinus akmenį, prasidėjo vartų, vėliau pramintų Aušros, statyba. Nenustatyta, kada buvo baigtos statyti mūrinės sienos, bet žinoma, jog jau 1522 m. visas miestas buvo apjuostas mūru.

Vartai, kuriuose dabar yra Gailestingumo Motinos koplyčia, pirmą kartą paminėti 1514 m. kaip Medininkų vartai. Pavadinimas Porta Acialis (lot.), Ostra brama (lenk.), t. y. Aštrieji vartai, pirmąsyk pavartotas 1594 m. Kodėl šiuos vartus imta taip vadinti – nežinia. Vilniaus apylinkių lietuviai vartojo Ašmens vartų pavadinimą. Kai kas jį sieja su Ašmenos miesto vardu, kitakalbių žmonių suprastu pažodžiui (lot. acies – ašmenys) ir išverstu į lotynų bei lenkų kalbas. Nuo kada ir kodėl jie lietuviškai pradėti vadinti Aušros vartais – taip pat nežinia. Galbūt toks vartų pavadinimas radosi dėl Švč. Mergelės Marijos Aušros žvaigždės įvaizdžio.

Koplyčia Gailestingumo Motinos paveikslą apglobė ne iš karto. Iš pradžių Švč. Mergelės Marijos atvaizdas kabojo nedidelėje vidinės vartų pusės nišoje kaip pora išorėje kabančiam Pasaulio Išganytojui. Abu paveikslai buvo miesto nuosavybė. Paveikslas neturėjo nei tinkamos koplyčios, nei stebuklingiems paveikslams deramų puošmenų. Taip buvo, iki Vilniun 1626 m. atsikėlė basieji karmelitai. Jie gavo sklypą prie Aušros vartų vienuolynui ir bažnyčiai statydintis.

Bažnyčią karmelitai pašventino tik 1654 m. Šventovė skirta didžiajai ispanų mistikei, Bažnyčios Mokytojai ir karmelitų ordino reformatorei bei vienuolynų steigėjai šv. Teresei Avilietei. Nuo pat įsikūrimo karmelitai rūpinosi miesto vartuose kabančiu paveikslu. Vienuoliai rengė prie jo pamaldas, taip skatindami ir miestiečių maldingumą. 1668 m. miesto valdžia pavedė karmelitams globoti Dievo Motinos atvaizdą, o 1671 m. karmelito t. Šventosios Dvasios Karolio rūpesčiu paveikslui saugoti pastatyta medinė koplyčia. Statybos metu paveikslas buvo laikomas Šv. Teresės bažnyčioje, vėliau iškilmingai perneštas į koplyčią.

1702 m. Vilnių užėmus švedams, uždrausta viešai garbinti paveikslą ir apskritai rinktis gatvėje. Vaduojant vartus, nukentėjo Dievo Motinos atvaizdas – jį perskrodė kulka. 1711 m. sudegus medinei, 1712-1715 m. buvo pastatyta mūrinė, mūsų laikus pasiekusi, 1829 m. įgavusi vėlyvojo klasicizmo stilių koplyčia. Ji buvo statoma taip, kad tikintieji galėtų melstis prie paveikslo gatvėje, nes į koplyčią buvo patenkama iš vienuolyno sodo ir pasauliečiams, ypač moterims, nebuvo leidžiama į ją įeiti. 1828-1829 m. remonto metu šoniniai langai padidinti iki grindų. 1785 m. gatvėje buvo uždrausta prekiauti pamaldų Aušros Vartuose metu. Iš visų praeivių, nesvarbu, kokios jie tikybos, reikalauta nuo vartų iki Pociejų koplyčios eiti nepridengta galva.

Apie Aušros Vartų Marijos paveikslo kilmę reikšta įvairiausių nuomonių. Jis laikytas net labai senu – sakyta jį esant bizantinę, stačiatikišką ikoną, kurią į Lietuvą 1363 m. atgabenęs didysis Lietuvos kunigaikštis Algirdas. Ši legenda XIX a. davė dingstį rusų valdžiai kėsintis atimti iš katalikų paveikslą. Vis dėlto, bijodama neramumų, svetimųjų valdžia jo nelietė. Naujieji tyrimai rodo, jog paveikslas sukurtas apie 1620-1630 m. pagal XVI a. antrosios pusės Nyderlandų dailininko Martino de Voso pavyzdį, veikiausiai remiantis 1580 m. Thomo de Leu atlikta graviūra.

Paveikslas (200x162x2 cm) tapytas ant iš aštuonių lentų suklijuoto ąžuolinio skydo. Dažų sluoksnis klotas ant labai plono kreidinio grunto sluoksnio (tai būdinga Šiaurės Europos tapybos tradicijai). Tapybos pobūdis leidžia manyti, kad paveikslas sukurtas Vilniuje.

1844 m. už pagalbą sukilėliams išvarius karmelitus, vienuolynas buvo atiduotas stačiatikiams, o koplyčia perduota diecezinei dvasininkijai. Nuo tada įėjimas į ją tapo atviras. Dar prieš atidarant koplyčią, 1789-1799 m. pagal Pietro di Rossi projektą buvo pastatyta galerija su vidiniais laiptais maldininkams. Tai klasicistinis dviejų aukštų pastatas su uždara vidinio viršutinio ir atvira apatinio aukšto galerija. Iš pradžių ir viršutinė arkada buvo atvira. 1830 m. remonto metu buvusios medinės baliustrados pakeistos mūriniais parapetais, angos įstiklintos, galerijos viduje perstatyti laiptai. Dabar viršutiniame galerijos aukšte įrengti vargonai (anksčiau jie buvo abipus altoriaus), o pati galerija sujungta su koplyčia.

2002 m. vartų ir koplyčios pastatas buvo rūpestingai restauruotas, atidengtos XIX a. uždažytos dekoro detalės.