Σε υψόμετρο 310 μέτρων, ανάμεσα σε δύο βουνοκορφές της βόρειας Καρπάθου, η Όλυμπος είναι αναμφίβολα ένας από τους πιο όμορφους οικισμούς του νησιού- και πιθανώς ολόκληρης της Ελλάδας.
Το σημείο επιλέχθηκε καθώς οι κάτοικοι αναζητούσαν καταφύγιο από τις επιδρομές των πειρατών κι αναγκάστηκαν να εγκαταλείψουν τους παραλιακούς οικισμούς για πιο δυσπρόσιτα και ορεινά μέρη. Έτσι «γεννήθηκε» η Όλυμπος, ακολουθώντας την αρχιτεκτονική των νησιωτικών οικισμών του μεσαίωνα, εικόνα που διατηρεί σχεδόν αναλλοίωτη έως και σήμερα.
Η αίσθηση πως ο χρόνος έχει σταματήσει κυριαρχεί στην Όλυμπο, με την ξεχωριστή και ιδιόμορφη πολιτισμική παράδοση. Είναι χαρακτηριστικό πως γυναίκες της Ολύμπου φορούν ακόμα έως σήμερα την παραδοσιακή φορεσιά της περιοχής ενώ μπορεί κανείς να ακούσει και την τοπική διάλεκτο.
Αποκομμένη μέχρι τη δεκαετία του ’80 ακόμα και από την υπόλοιπη Κάρπαθο, καθώς ο δρόμος που συνέδεε τον οικισμό με το νησί ήταν πολύ δύσβατος και δεν ευνοούσε τις μετακινήσεις, η επικοινωνία της Ολύμπου με την υπόλοιπη Κάρπαθο γινόταν κυρίως από τη θάλασσα και το λιμάνι του Διαφανίου.
