Vytauto kalnas įsiterpęs tarp Kražantės, Dausyno ežero ir Medžiokalnio. Istorikai ir archeologai teigia, jog čia, šio kalno papėdėje, buvusi sena gyvenvietė, čia gyvavusi dar prieš 4000 metų. O XII a. šiame kalne galėjusi stovėti karinė tvirtovė. Daugelis įrodinėja, kad Vytauto kalnas buvęs labai patogus vietos gyventojams čia įkurti alką – pagonių kulto vietą, kurioje buvęs pastatytas aukuras, o jame kūrenosi šventoji ugnis. Vytauto kalne žmonės dievams ir protėviams aukodavę aukas, čia veikusios ir pagoniškos kapinės. Neatsitiktinai būtent šiame kalne Didysis kunigaikštis Vytautas liepęs pastatyti vieną pirmųjų krikščioniškų šventyklų Žemaitijoje. Šiandien įrodyta, kad pirmosios tokios bažnyčios buvo statomos alkvietėse. Todėl ir Šv. Mykolo Arkangelo bažnyčia iškilo ant tos pačios, kražiškiams šventos vietos (1416 m.). Minėta šventovė buvo net penkis kartus atstatoma, nes dažni gaisrai jas sunaikindavo. Tačiau po 1941 m. birželio 25 – osios gaisro bažnyčia atstatyta nebuvo.

Šiandien visi, norintys apžvelgti Kražius, kopia 50 akmeninių pakopų laiptais į Vytauto kalną. Čia, archaiškiausiame archeologijos paminkle, tebestovi dar iš griūvančios jėzuitų bažnyčios sienų plytų apie 1852 m. statyta mūrinė varpinė.