Nuo XIX amžiaus pradžios Ukmergė tapo viena svarbiausių vietovių Lietuvoje. Atidarytas pašto traktas Sankt Peterburgas – Varšuva ėjo per Ukmergę. Čia buvo pastatyta viena geriausių pašto stočių to meto Lietuvoje.
Ukmergės arklių pašto stotis buvo viena puošniausių ir didžiausių pirmos klasės stočių. Ją sudarė tipiškų klasicizmo pastatų kompleksas. Vidurinėje dalyje, lygiagrečiai su gatve, stovi pašto namas, iš galų, statmenai jam, – pagalbiniai ūkiniai pastatai. Visus pastatus jungia tvora su simetriškai išdėstytais vartais. Tarp pastatų yra stačiakampis kiemas.