Gelgaudiškio bažnyčia, pastatydinta vietos dvaro savininko Naugarduko vaivados Pauliaus (Povilo) Sapiegos – seniausia bažnyčia dabartinio Šakių dekanato ribose. Ji pirmą kartą paminėta 1578 m. kaip Zapyškio parapijos filija. Per ilgą gyvenimo istoriją Gelgaudiškio bažnyčia keletą kartų iš esmės pakeitė išvaizdą. Atrodo, kad prieš 1640 m. buvusi pastatyta nauja bažnyčia. Ji pavaizduota 1655 m. žemėlapyje su bokštu ir bokšteliu virš presbiterijos. 1691 m. Kazimieras Oziemblovskis pastatydino trečiąją medinę bažnyčią. Manoma, kad ta proga įsteigta ir savarankiška Gelgaudiškio parapija. XVIII a. Gelgaudiškio bažnyčią aptarnavo du kunigai – klebonas ir vikaras. Parapijos teritorijoje veikė filijinė Šakių bažnyčia. 1789 m. LDK kanclerio Mykolo Čartoriskio našlės Eleonoros Valdštein-Čartoriskienės rūpesčiu buvusi pastatydinta dar viena medinė bažnyčia. Šis bažnyčios pastatas ant mūro pamatų buvo kryžminio plano, dengtas malksnomis, su zakristijos priestatu, bokšteliu ant kraigo ir atskirai stovinčia varpine su trimis varpais. Presbiterijoje įrengtoje kriptoje ilsėjosi Gelgaudiškio dvaro savininkų ir bažnyčios patronų Gelgaudų, Oziemblovskių ir Kiršenšteinų palaikai. 1840 m. buvo pastatyta nauja medinė varpinė ir naujai aptvertas šventorius. 1857 m. bažnyčia buvo iš pagrindų suremontuota, tačiau 1864 m. sudegė.

Dabartinė neogotikinė bažnyčia pastatyta 1866-1868 m. Gelgaudiškio dvaro savininko Pranciškaus (Franco) Koidelio aukomis (teikė statybinių medžiagų) ir klebono M. Dydynsko bei parapijiečių lėšomis. Pagrindinė mūrinės bažnyčios dalis (navos korpusas) buvo panašaus dydžio kaip buvusios medinės bažnyčios pastatas. Mūrinės bažnyčios projektą parengė Marijampolės apskrities inžinierius Valerijus Rybarskis, o statybai vadovavo meistras Fridrichas Ancholtas. Tai vienanavė vienabokštė gotikos elementų turinti raudonų plytų bažnyčia. Centriniame altoriuje šalia Nukryžiuotojo – 4 medinės skulptūros, languose – nežinomo autoriaus vitražai. Vienas iš dviejų varpinės bokšto varpų nulietas 1755 m. Karaliaučiuje Johano Jakobo ir C.F. Dornmanų.