Didvyžių bažnyčia stovi atokiau pagrindinių kelių, į šiaurės rytus nuo Vilkaviškio geležinkelio stoties, pasukus per Teiberių kaimą Didvyžių pensionato ir Sūdavos gyvenvietės link. Ši vietovė senais laikais vadinosi Geištarais, nes čia buvo L. Geištaro, Lietuvoje turėjusio apie 20 dvarų, rezidencija. Pirmiausiai ponas L. Geištaras savo dvaro teritorijoje pastatė koplyčią, o 1885 m. jos vietoje gražią mūrinę bažnyčią. Apie 1918 m. bažnyčią ir dvaro trobesius iš Geištaro nupirko iš Amerikos grįžęs kunigas A. Kudirka, buvo įkurta parapija. Bažnyčia stipriai nukentėjo 1944 m. nuo besitraukiančio karo fronto. Jos sienoje pramuštos skylės, ji nuniokota. Kareiviai išplėšė ir sudegino medines bažnyčios dalis, liko tik didysis altorius. Po karo bažnyčia suremontuota. Bažnyčios šventoriuje palaidotas parapijiečių labai mylėtas pirmasis pokario metų klebonas kun. I. Zdančius.