Στο ψηλότερο σημείο της Χώρας της Σκύρου σε έναν απόκρημνο βράχο ύψους 179 μέτρων πάνω από την απεραντοσύνη του Αιγαίου, βρίσκεται το Κάστρο της Σκύρου.
Ο βράχος υπήρξε το επίκεντρο των γεγονότων του νησιού από τους προϊστορικούς χρόνους και τη μυθολογική εποχή . Εδώ ήταν η αρχαία ακρόπολη και η έδρα του βασιλιά Λυκομήδη. Στη θέση «Σπηλιά Ανδριώτη», σκοτώθηκε απ τον Λυκομήδη ο βασιλιάς της Αθήνας Θησέας. Εδώ κρύφτηκε ο Αχιλλέας ντυμένος γυναίκα προσπαθώντας να αποφύγει τον Τρωικό πόλεμο.
Η ακρόπολη ήταν οχυρωμένη σε όλη την κλασική περίδο και αργότερα στους Ρωμαϊκούς και τους Βυζαντινούς χρόνους. Τον 8ο και τον 9ο μ.Χ. αιώνα η Σκύρος υπέφερε από τις επιδρομές των Σαρακηνών με αποκορύφωμα τη λεηλασία του έτους 900, οπότε μάλλον πρέπει να καταλήφθηκε και το κάστρο.
Τον 13ο αιώνα μετά την άλωση της Κωνσταντινούπολης από τους Φράγκους σταυροφόρους (1204), η Σκύρος πέρασε στη δικαιοδοσία των Ενετών και του Μάρκου Σανούδου, ηγέτη του Δουκάτου της Νάξου. Ο Σανούδος παρεχώρησε τη Σκύρο , μαζί με άλλα νησιά των Κυκλάδων και των Βορείων Σποράδων στους αδερφούς Ιερεμία και Ανδρέα Γκίζι. Τους επόμενους αιώνες η Σκύρος συνέχισε να είναι υπό Ενετική κυριαρχία. Σε αντίθεση πάντως με άλλα νησιά, οι Ενετοί δεν έκαναν μεγάλη προσπάθεια για την προκοπή και την προστασία των κατοίκων. Το πρώτο μισό του 15ου αιώνα, το νησί σχεδόν ερήμωσε ξανά από τις πειρατικές επιδρομές. Συνέχισε να είναι ενετική κτήση και μετά την Άλωση της Κωνσταντινούπολης από τους Τούρκους μέχρι το 1537 όταν κατακτήθηκε και λεηλατήθηκε από τον Τούρκο ναύαρχο-πειρατή Χαϊρεντίν Μπαρμπαρόσα. Σε όλη αυτήν την ταραγμένη περίοδο, αλλά και αργότερα μέχρι το 19ο αιώνα, το κάστρο ήταν το καταφύγιο των κατοίκων του νησιού που όλοι τους είχαν και ένα δεύτερο νοικοκυριό μέσα στο κάστρο.
Πάντως δεν φαίνεται το κάστρο να δέχτηκε σοβαρές μετατροπές και ενισχύσεις μετά τη μεσοβυζαντινή περίοδο. Δεν πρέπει να υπήρξε σημαντικό ούτε για τους Ενετούς ούτε για τους Τούρκους. Είναι ενδεικτικό ότι οι Τούρκοι δεν βιάστηκαν να το καταλάβουν (μόλις το 1537 όπως αναφέρθηκε) ενώ αποχώρησαν σχετικά γρήγορα, το 1780, μετά τα Ορλωφικά.
Το κάστρο δεν σώζεται σε καλή κατάσταση. Ένας από τους λόγους είναι ότι εδώ δεν έκαναν παρεμβάσεις οι Ενετοί (ούτε και οι Τούρκοι αργότερα) όπως σε άλλα κάστρα του Αιγαίου που διατηρούνται σε πολύ καλύτερη, σχετικά, κατάσταση. Από την αρχαία ακρόπολη της κλασικής περιόδου υπάρχουν ελάχιστα ίχνη, κυρίως στη θεμελίωση μεταγενέστερων οχυρώσεων. Υπάρχουν ίχνη ακόμα και από την πελασγική οχύρωση. Το ερείπια που βλέπουμε σήμερα είναι κατά κύριο λόγο υπολείμματα από το Βυζαντινό κάστρο. Οι τρεις πλευρές του είναι απόκρημνες και σχεδόν κάθετες. Μία μόνο είναι βατή και κατεβαίνει ομαλά στους χαμηλότερους λόφους που είναι κτισμένη η Χώρα.