Pirmoji medinė bažnyčia buvo pastatyta 1598 m. Antroji, taip pat medinė, iškilo 1715 m., ją pašventino Vilniaus vyskupas T. Zienkevičius. Dabartinė iš lauko akmenų sumūryta bažnyčia pastatyta 1881 m., 1886 m. ją konsekravo Seinų vyskupas sufraganas Juozas Oleka. Pokario metais bažnyčia remontuota, atnaujinta. Bažnyčios išorės architektūroje panaudotos viduramžių stilių formos. Šiuo metu bažnyčioje yra 3 neobarokiniai altoriai. Gražiškių bažnyčios sakykla – tai vienas įdomiausių barokinių šios rūšies ir paskirties dirbinių ne vien Suvalkijoje, bet ir visoje Lietuvoje. Gražiškių bažnyčioje yra pažymėtinų meno bei kulto dalykų, jų tarpe XVIII a. cinkinė žvakidė, sienoje nutapytas Mykolo arkangelo paveikslas (klijiniai dažai, XIX a.), 10 dekoratyvinių evangelistų, apaštalų ir angelų skulptūrų (XIX a., medis). Gražiškių kapinėse stovi koplytėlė iš molio, plytų ir akmenų.