Antalieptes ūdensdzirnavas uzbūvētas 1855. gadā neoromantisma stilā, imitējot zemnieka mājas arhitektūru, no šķeltiem un apaļiem akmeņiem, sarkanajiem ķieģeļiem un kaļķa javas. Taisnstūrveida vienstāva ēkā tika ierīkotas trīs dzirnavas un elektrostacija, kura piegādāja elektroenerģiju pilsētas iedzīvotājiem un iestādēm. 1959.–1966. gadā dzirnavas tika elektrificētas, vēlāk demontēts aizsprosts, bet kanāls, pa kuru Šventojas (Šventoji) upei plūstot, tika darbināta dzirnavu turbīna, tika aizbērts. 1967. gadā dzirnavas nodotas tā laika Valsts Mākslas institūtam. Neatkarīgajā Lietuvā tās tika pasludinātas par aizsargājamu kultūras vērtību.