Palemone virš Kauno marių kranto iškilęs Vieškūnų piliakalnis yra vienas iš geriausiai išsilaikiusių Lietuvoje. Istorikų teigimu, XIV a. antroje pusėje čia stovėjo medinė pilaitė, saugojusi Kauno miestą. Rasta net akmens amžiaus gyvenvietės pėdsakų. Šiandien keliautojai čia atvyksta pasigrožėti Kauno marių panorama su tolumoje matomu Pažaislio bažnyčios kupolu, pasivaikščioti puikiai įrengtais takais ir akmenuota marių pakrante su įspūdinga atodanga.

Anksčiau piliakalnis, kitaip dar vadinamas Šuneliškių kalnu, buvo apaugęs medžiais ir krūmais. Apie jo egzistavimą težinojo tik keletas vietinių gyventojų. Pasakojama, neva šioje vietoje vaidendavosi, nes ant kalno nusižudžiusi dvarininko duktė. Kai kuriose legendose minimi besivaidenantys šunys, jų staugimas, todėl ir kaimas Šuneliškėmis pavadintas. 1992 m. piliakalnis buvo atrastas, sutvarkytas, įrengti mediniai laiptai, suoleliai, sūpynės. Šalia pastatytas paminklinis akmuo marių nuplautiems piliakalniams atminti. Statant Kauno hidroelektrinę, užtvenkus Nemuną iškeldinta ir užlieta apie 20 kaimų, o visame Kauno marių regioniame parke dėl vandens poveikio arba dirvožemio erozijos sunyko apie 50 piliakalnių.

Manoma, kad čia stovėjusi pilaitė mažiausiai kartą buvo užpulta. Istorinis jos pavadinimas nežinomas. Pilaitės papėdėje buvo įrengta ir maždaug 1 ha ploto gyvenvietė, gyvavusi tiek pat, kiek ir pilaitė. Senosios gyvenvietės šiaurinėje pusėje bevardis upelis įsilieja į Šuneliškių Ravo upelį. Vėliau gyventojai įsikūrė Nemuno slėnyje.Tikėtina, kad jame turėjo būti ir to meto kapinynas.