Bažnyčia stovi gyvenvietės centre, aikštėje, susidariusioje kelių sankirtoje. Pagrindinis bažnyčios fasadas atsuktas į aikštę. Šventoriaus vakarinėje pusėje stovi medinė varpinė. Šie maldos namai turi turtingą istoriją. Pačioje XVII a. pradžioje Jurgis-Samsonas Podbereskis Smalvose pastatė medinę bažnyčią ir pakvietė joje dirbti vienuolius – Atgailos kanauninkus. Jie buvo didikų kilmės, gyveno dvare, mokė apylinkės vaikus ir aptarnavo bažnyčią, kuri per 1812 m. karą apdegė ir buvo apiplėšta. Po poros dešimtmečių caro valdžia vienuolius iš Smalvų išvarė ir bažnyčią perėmė kunigai pasauliečiai. Šiandien Smalvose stovinti bažnyčia nėra ta pati XVII a. statytoji. 1857 m. grafas Pliateris kartu su Smalvų parapijiečiais pastatė ir įrengė dabartinę Smalvų bažnyčią.
Bažnyčia pastatyta ant akmens mūro pamatų. Jos planas stačiakampis, vidaus erdvė trinavė. Interjeras puoštas liaudies baroko stilistika, gausu puošybos elementų, dominuoja augaliniai motyvai. Bažnyčios grindys – plačių lentų, mediniais kaiščiais ir kalvių darbo vinimis užkaltos ant sijų. Didysis altorius yra pušinis, gana gausiai paauksuotas. Dievo Motinos Rožančinės paveikslas tapytas Kazimiero Gorackio. Eksterjere išsiskiria langus ir duris supantys liaudiški pjaustinėti apvadai, greičiausiai perimti iš gyvenamųjų namų ar svirnų, siekiant bažnyčiai suteikti „tautiškumo“. Bažnyčios priekiniame fasade yra unikalus trijų aukštų portikas. Pirmame aukšte įėjimas, antrame – balkonėlis, o trečiame – frontonas su langeliu.
Įdomu tai, kad zakristijoje vis dar saugomas bažnyčios fundatoriaus Jurgio-Samsono Podbereskio portretas. Visas Podbereskių turtas 1920 m. testamentu užrašytas bažnyčiai.