В XVI столітті Козова належала родині Потоцьких, які звели в поселенні оборонний замок, для захисту від татарських набігів. У 1515, 1575, 1589, 1621 та 1626 роках татари грабували та палили замок і всю Козову.
Однак після цих нападів замок все таки відновлювався. Зрештою, у 1688, попри шалений спротив гарнізону і ополчення з місцевих селян, замок після тривалого штурму зруйнували турецькі яничари. За переказами більшість оборонців замку втекли через підземелля замку. Це дуже обурило яничар і вони наказали повністю зруйнувати замок.
