Šventoriuje šalia Šv. Jurgio bažnyčios stovi smailios, aukštos piramidės formos koplyčia, kurios viršūnėje yra iškelta trimituojančio angelo figūrėlė. Neįprasta architektūra pasižyminti M. Radziševskio funduota koplyčia buvo pastatyta kaip šeimos mauzoliejus, rūsyje kadaise laikyti šios šeimos karstai.

Beje, iš pradžių koplyčiai buvo suteiktas Šv. Arkangelo Mykolo vardas, tikriausiai siejamas su paties jos statytojo – Mykolo Radziševskio vardu. Tik vėliau (apie 1820 m.) ji pašventinta šv. Florijono garbei, mat joje buvo saugomi šventojo relikvijoriai, gauti iš popiežiaus Pijaus VI.

Šv. Florijonas – romėnų karys, atsivertęs į krikščionybę, apie 304 metus už tai buvo nukankintas. Jis išgarsėjo stebuklingai vienu kibiru vandens užgesinęs liepsnojantį namą. Šventasis dažnai vaizduojamas su kibiru vandens vienoje rankoje ir yra laikomas sergėtoju nuo gaisrų ir stichinių nelaimių. Gegužės 4-oji – šv. Florijono diena – oficiali profesinė ugniagesių ir gelbėtojų šventė.