1812 m. Gudžiūnuose pastatyta koplyčia, į kurią kunigai pamaldų laikyti užsukdavo tik retkarčiais, bet per Sekmines Gudžiūnuose būdavo didžiuliai atlaidai. 1910 – 1911 m. pagal architekto Kačkovskio projektą pastatyta gotikinio stiliaus medinė Švč. Jėzaus širdies bažnytėlė, finansuota grafo A. Chrapovickio.