Koncom 18. storočia sa majiteľom Svidníka a okolitých dedín, stal zemepán Sirmai. V roku 1795 dal vybudovať klasicistický kaštieľ na mieste, kde stála kúria. Koncom 18. storočia bol neskorobarokovo upravený.
Kaštieľ má dvojtraktovú dispozíciu, obdĺžnikový pôdorys, je jednopodlažný s podkrovím a čiastočným podpivničením. Strešnú konštrukciu tvorí manzardový krov.
Dnes sa v objekte nachádza Galéria Dezidera Millyho s expozíciou rusínskej kult.