Původní sídlo vzniklo ve 13. století jako tvrz, která byla kvůli nájezdům a následnému vypálení přestavěna na opevněný hrad s věží, palácem a opevněním. O století později získal základní stavební dispozici a sloužil jako hlavní panské sídlo.
V druhé polovině 16. století došlo ke kompletní přestavbě pány z Lipné a Žerotíny na renesanční zámek. Z jeho původních gotických zdí se dochoval pouze západní trakt.
„Původní hrad se nám v interiéru postupně odkrývá. V jihozápadním nároží (prostor bývalého divadla) v roce 1994 zde pod vedením prof. Ungera proběhl výzkum části hradební zdi a pyrotechnologického zařízení. V minulém roce jsme v této místnosti prozkoumali další část s relikty starších maltových podlah a několika fázemi hradního i zámeckého zdiva. V letošním roce se nám pod podsypem podlahy – kromě podlah starších, podařilo odkrýt další úsek středověkého hradebního zdiva,“ říká k nálezu Archaia.
Nalezená obvodová zeď navazující na práci profesora Ungera je zatím nejstarší ze všech. Na ni kolmo dosedá mladší středověká přístavba. Zajímavostí je, že prostor byl později využit k vedení cihlového kanálu.


