Vilniaus ir Žemaitės gatvių kampe esanti išraiškinga kalva XIX a. II p. buvo Šiaulių užmiestyje, grafų Zubovų dvaro valdose. Kalva žmonių buvo vadinama Ponų kalneliu. Tuo metu tai buvo neužstatyta vietovė, gerai matoma net nuo dabartinės Tilžės gatvės. Pro kalnelį ėjo vieškeliai iš Šiaulių į Kuršėnus ir senojo kelio į Rygą atšaka, kuri neteko transportinės reikšmės 1836–1858 m. nutiesus Rygos–Tilžės plentą per miesto centrą, dabartinę Tilžės gatvę.
1863–1864 m. šis kalnelis tapo sukilimo dalyvių egzekucijų ir palaidojimų vieta. Nors tuo metu buvo priimta egzekucijas vykdyti miestų aikštėse, kad būtų įbauginti miestiečiai, sukilėlius karinė to meto valdžia nusprendė nubausti užmiestyje, šalia judrių vieškelių esančiame kalnelyje, kuris vėliau ir buvo pavadintas Sukilėlių kalneliu.
Šioje vietoje Rusijos imperijos kariuomenė nuo 1863 m. birželio 14 d. iki 1864 m. kovo 6 d. įvykdė septynias egzekucijas vienuolikai sukilėlių, kurie buvo sušaudyti arba pakarti. Kalnelyje nužudyti bajorai Paulinas Bagdonavičius, Bronislovas Kvietkauskas, Aleksandras Kučiauskis, Mečislovas Scipijonas, Konstantinas Sungaila, kariškiai Aleksandras Kobilinskis, Andrejus Kuprijenka, valstiečiai Kazimieras Braziulis, Jonas Morkis, Jurgis Pranaitis ir miestelėnas Albinas Verbliugevičius. Sukilėliams bausmės vykdytos grojant kariuomenės orkestrui, čia pat nubaustieji ir užkasti, o palaidojimo vietos sutryptos arklių, kad neliktų jokios kapo žymės, vis dėlto kalnelyje buvo pastatytas medinis kryžius, kuris caro valdžios netrukus buvo nuverstas. Bijodami galimų valdžios persekiojimų, žmonės šios vietos vengė, ji apaugo krūmais, apie kalnelį ėmė sklisti baisios istorijos ir legendos. Šiauliečių istorinėje atmintyje jis įsitvirtino kaip kraupių žudynių vieta ir gavo naują pavadinimą – Sukilėlių kalnelis.
Pirmojo pasaulinio karo metais kalnelio šiaurės rytiniame šlaite, arčiau Vilniaus gatvės, atskirose kapų duobėse buvo palaidoti vokiečių kareiviai, pastatyti kryžiai su karių pavardėmis, kapai aptverti dekoratyvine tvorele, prie centrinio tako pastatytas iš akmenų sumūrytas paminklas.
Po Pirmojo pasaulinio karo miestui plečiantis, gyventojai pradėjo statytis medinius namus ir Sukilėlių kalnelio šlaituose. Būtent tada pačiu kalneliu ir čia palaidotų sukilėlių atminimo įamžinimu susirūpino Šiaulių inteligentija, Lietuvai pagražinti draugija. 1926 m. pradėti kalnelio tvarkymo darbai – jis apsodintas medžiais, aptvertas tvorele, o aplink jį buvusios iki tol bevardės gatvės pavadintos Sukilėlių ir sukilimo dalyvio, rašytojo Juozo Miliausko-Miglovaros vardais. Susirūpinta ir sukilėlių atminimą įamžinančiu paminklu. Miesto inžinierius Karolis Reisonas be atlygio pasisiūlė parengti paminklo projektą. 1928 m. Sukilėlių kalnelyje įvyko įspūdingas Lietuvos nepriklausomybės 10-ųjų metinių minėjimas, atidarytas Nepriklausomybės sodas, bet paminklo statybos užtruko. Tik 1935 m. gegužės 30 d. paminklas – 14 m aukščio rausvo granito obeliskas – buvo atidengtas ir pašventintas, perlaidoti trijų čia rastų sukilėlių palaikai.
Per Antrąjį pasaulinį karą Sukilėlių kalnelio paminklas nenukentėjo, tik pasikeitė jo aplinka, nes iki pat paminklo laiptų tranšėjose buvo palaidoti 1941–1944 m. žuvę vokiečių kariai. Vokiečių karių kapų užsienyje globos draugijos duomenimis, Sukilėlių kalnelyje palaidota 512 Pirmojo pasaulinio karo ir 759 Antrojo pasaulinio karo karių. Pokario metais okupacinės karinės valdžios įsakymu Vokietijos karių antkapiniai paminklai ir bendras memorialinis paminklas nugriauti ir išvežti.
1955–1957 m. Sukilėlių kalnelio paminklas buvo rekonstruotas – nuo paminklo pašalinta visa tautinė ir religinė simbolika, paminklas buvo papildytas skulptoriaus Antano Dimžlio sukurta bronzine skulptūrine kompozicija "1863 m. sukilėliai". 1988 m., minint 125-ąsias sukilimo metines, paminklui grąžinta autentiška išvaizda.