2002 m. pastatytas paminklas, skirtas pirmajai Tauragės evangelikų liuteronų bažnyčiai atminti. Paminklas – tai atvira varpinė, į kurią įkeltas nemenkas varpas. Paminklas primena Tauragės dvaro savininkus, kuomet 1567 m. buvo pastatyta protestantų bažnyčia. Bažnyčia čia stovėjo iki didžiojo gaisro 1836 m.

Jūros slėnio šlaitas, ant kurio įrengti vasaros estrados suoleliai, prieškariu vadintas Vymerio kalnu, o teritorija šalia jo - Vymerine. Kunigas Augustas Vymeris 1911 m. gegužės 1 d. iš Vyžainių persikėlė į Tauragę ir su gausia šeima (6 vaikai) apsigyveno klebonijoje ant Jūros upės kranto, kurioje dirbo iki mirties. Nors A. Vymeris vokiečių kilmės zalcburgietis, lietuviškai gerai mokėjo (nors šeimoje kalbėjo vokiškai) iš mažens. Jis aiškiai palaikė lietuvius, rėmė bei pats dalyvavo lietuvių kultūriniame gyvenime.