Uit opgravingen is gebleken dat het kasteel toen bestond uit een grote donjon. De fundamenten daarvan liggen onder het oostpunt van het huidige gebouw. Met behulp van Gemeente en het Rijk is in 1992 de restauratie ter hand genomen. In de loop de tijd is het kasteel 13 keer verbouwd en in de 17e eeuw kreeg het zijn huidige vorm. De slotgracht en het poortgebouw zijn in de loop van de 19e eeuw verdwenen.