Kapinės šioje vietoje funkcionavo nuo XVI a. (gal ir nuo XV a. pab.). Jose buvo palaidotas žydų mokslininkas, vienas žymiausių Talmudo aiškintojų Elijahu ben Šlomo Zalman (Vilniaus Gaonas) (1720-1797). 1948 m. Vilniaus Gaono, jo artimųjų palaikai buvo perkelti į Naująsias žydų kapines (Olandų gatvėje), 1963 m. palaikai perkelti į Sudervės žydų kapines.

Kapinių Šnipiškėse teritorija palaipsniui kito žydams įsigyjant aplinkinius sklypus, kartu perimant buvusių žemės naudotojų mokesčių mokėjimą už žemę. Kapinės sujungtos į vieną sklypą ir didžiausią teritoriją (4,3 ha) pasiekė XVIII ir XIX a. sandūroje. Visa kapinių teritorijos žemė (gauta ir įsigyta) buvo valstybinė, t. y. priklausė Vilniaus pilies ir eiguvos jurisdikcijai.

Žydų kapines uždaryti carinės Rusijos administracijos nuspręsta 1817 m., bet sprendimas įgyvendintas 1831 m., kai pradėta tvirtovės statyba. Šios teritorija apėmė apie ¼ kapinių teritorijos, o likusi teritorija buvo palikta, kaip apšaudymo laukas. Rusijos imperijos valdžia sumokėjo kompensaciją visiems, kurių žemė ir pastatai buvo nusavinti tvirtovės statybos reikmėms, neatsižvelgiant ar ta žemė buvo valstybinė ar privati.

1935 m. Lenkijos administracija buvo paskelbusi šias kapines muziejine vertybe. Sovietų valdžia po karo kapines galutinai sunaikino, o jų bei aplinkinėje teritorijoje pastatė Plaukiojimo baseiną ir Koncertų ir sporto rūmus. Dalis palaidojimų, kurių nesunaikino tvirtovės, Koncertų ir sporto rūmų bei įvairių požeminių trasų statybos darbai yra išlikę.