1839 m., Zarasų mieste, tuomet vadintame Novoaleksandrovsku, buvo pastatyta stačiatikių cerkvė, pavadinta Gospodnia vardu. Šioje cerkvėje buvo nemažai graikų stiliumi tapytų ikonų, saugotas Dievo Motinos paveikslas, puošęs Suvieko unitų vienuolyną, laikytas stebuklingu ir garbintas ne tik stačiatikių, bet ir katalikų. 1869 m. mieste apsilankius M. Muravjevo įpėdiniui A. Potapovui, buvo nutarta šalia senosios medinės cerkvės pastatyti naujus mūrinius maldos namus. Senąją medinę cerkvę 1885 m.tikintieji perkėlė į naujai paskirtą provoslavų kapinių vietą (dabar Valstiečių g.) ir tuomet ją pašventino Visų Šventųjų vardu.