Nemėžyje XIV amžiuje stovėjo Vytauto ir jo žmonos Julijonos vasaros rezidencija. Čia 1397 m tais Vytautas įkurdino totorius, kurių apie 120 palikuonių čia gyvena ir dabar. Jų tradicijos, tikėjimas ir papročiai išlikę iki šiol, bendruomenė yra labai vieninga ir draugiška.

1684 metais šiame kaime buvo pastatyta mečetė ir išstovėjo iki šių laikų, tačiau 1909 metais sudegė, todėl vėl buvo atstatyta pagal architekto A. Sonino projektą. Ji yra medinė, stačiakampio plano, keturšlaičiu skardiniu stogu. Mekos pusėje yra priestatas. Stogo viršuje yra nedidelis minareto bokštelis. Šalia mečetės yra senosios totorių kapinės. Dar vienos kapinės yra Nemėžio gyvenvietės pakraštyje.

Karų metais bei Sovietiniu laikotarpiu, mečetė gerokai nukentėjo. Antrojo pasaulinio karo pabaigoje mečetės kapinių teritorijoje stovėjo Sovietų Sąjungos raketinės sistemos, apšaudančios miestą. 1956 metais sovietų valdžia mečetės vos nenugriovė su buldozeriais, tačiau totorių bendruomenė griežtai pasipriešino šiems ketinimams. 1963 metais mečetė vėl vos nesudegė, tačiau buvo spėta ją išgelbėti nupjovus atvira liepsna degantį minaretą. Iki 1968 metų mečetės patalpoje vietos kolūkis buvo įkūrės grūdų sandėlį, vėliau pastate veikė kraštotyros muziejus. 1978 metais mečetė buvo grąžinta musulmonų bendruomenei. 1993 metais ji buvo suremontuota, 2009 metais – restauruota.