Vytauto gatvėje, šalia Ukmergės ligoninės, 1965 m. buvo pradėtas kurti parkas, kurio iniciatorius – gydytojas Kazys Mikalauskas (1907–1986). 8 hektarų teritorijoje buvo iškasti tvenkiniai, įrengtas fontanas, sporto aikštelės, taip pat pasodinta įvairių retų medžių, krūmų ir gėlynų. Parką prižiūrėjo ir puoselėjo rajono medikai.
2021 m. parkas buvo atnaujintas ir pavadintas Sveikatos parku. Daugiau kaip 12-os hektarų plote suformuotose viešosiose erdvėse įrengti pėsčiųjų takai, sveikatingumo trasos su treniruokliais, vaikų žaidimų aikštelė, sutvarkyti tvenkiniai bei pasodintas rožynas.
