Pastatyta 1795 m. Nedidelė medinė bažnytėlė yra liaudies architektūros formų, turi klasicizmo elementų, bebokštė, stačiakampio plano, halinė, su šešių kolonų portiku. 1913 m. Rumbonių bažnyčią puošė skulptorius Kazys Kriščiukaitis ir dailininkas Antanas Žmuidzinavičius. Ne vienas pastebi, jog ji tarsi nedidukė medinė Vilniaus arkikatedros kopija.

Rumbonių kaimo kapinaitėse galima apžiūrėti dailės paminklu paskelbtą grafaitės Juzefos Korevaitės kapo balto marmuro antkapinį paminklą. Iki mūsų dienų išliko žinių, kad šį antkapinį paminklą sukūrė žymus Varšuvos skulptorius Pijus Velionskis, žiūrėdamas į Juzefos, mirusios 1908 m., išlikusią nuotrauką. Visai netoliese galime įkopti ir į Rumbonių piliakalnį, iš kurio, jei tikėsime legendomis, vedė požeminis tunelis į Punios piliakalnį kitame Nemuno krante.

Rumbonių Švč. Trejybės bažnyčia įtraukta į Nekilnojamųjų kultūros vertybių registrą. Ant greta bažnyčios esančio pastato laiptų yra pritvirtinta lentelė, žyminti čia vieną iš Lietuvos Respublikos gravimetrinių punktų. Gravimetrinis pagrindas naudojamas atliekant detalius gravitacijos lauko tyrimus bei nustatant gravitacijos lauko kitimą laikui bėgant. Visa tai svarbu atliekant tiksliuosius geodezinius matavimus bei geofizinius tyrimus.