Η αρχαία πόλη της Ρόδου, η κατασκευή της οποίας ξεκίνησε το 408-407 π.Χ., σχεδιάστηκε χρησιμοποιώντας το πλέγμα του πολεοδομικού συστήματος που επινοήθηκε από τον μεγαλύτερο πολεοδόμο της αρχαιότητας, τον Ιππόδαμο της Μιλήτου. Θεωρήθηκε μια από τις πιο όμορφες και καλύτερα οργανωμένες πόλεις της αρχαιότητας, για τις οποίες γνωρίζουμε την ακριβή τοποθεσία δρόμων, πλατειών και κτιρίων.

Την εποχή εκείνη η Ρόδος εξελίχθηκε σε ένα από τα σημαντικότερα θαλάσσια και εμπορικά κέντρα της Ανατολικής Μεσογείου. Εκτός από τα μεγάλα της επιτεύγματα στο εμπόριο και τη ναυτιλία, η Ρόδος είχε εξέχουσα θέση και στις τέχνες, τη λογοτεχνία και τη φιλοσοφία. Ως επαρχία της Ρωμαϊκής Αυτοκρατορίας, η Ρόδος δεν έχασε ποτέ τη στρατηγική της σημασία στην περιοχή, πολιτιστική ή οικονομική, ωστόσο δεν ήταν η μεγάλη και ισχυρή πόλη που ήταν στους ελληνιστικούς χρόνους.

Τον 4ο αιώνα μ.Χ., η ελληνιστική πόλη είχε συρρικνωθεί σε έκταση, η οποία παρέμεινε ίδια σε όλη τη βυζαντινή εποχή. Υπό τη συνεχή απειλή των αραβικών επιδρομών, που ξεκίνησαν τον 7ο αιώνα, η πόλη της Ρόδου οχυρώθηκε από τους Βυζαντινούς, οι οποίοι τη χώρισαν σε δύο τμήματα: την Ακρόπολη (αργότερα το Παλάτι του Μεγάλου Μαγίστρου) και την Πόλη (κάτω πόλη). .
Το 1309 μ.Χ. το Τάγμα των Ιπποτών του Αγίου Ιωάννη της Ιερουσαλήμ εγκαταστάθηκε στο νησί, χρησιμοποιώντας το ως την ευρωπαϊκή έδρα τους, καθώς και έναν από τους βασικούς ενδιάμεσους σταθμούς για τους προσκυνητές που ταξίδευαν στους Αγίους Τόπους. Οι Ιππότες οχύρωσαν την πρωτεύουσα του νησιού, ενσωματώνοντας τις βυζαντινές οχυρώσεις, περικλείοντας μια έκταση μεγαλύτερη από τη βυζαντινή πόλη κατά τα δύο πέμπτα και μικρότερη από την ελληνιστική πόλη κατά το ένα τέταρτο. Ένας εσωτερικός τοίχος από την ανατολή προς τη δύση χώριζε την πόλη σε δύο μέρη.

Η βόρεια συνοικία, το Κολλάκιο, ήταν το διοικητικό κέντρο και περιείχε μεταξύ των κτιρίων, το Παλάτι του Μεγάλου Μαγίστρου και το Νοσοκομείο. Η μεγαλύτερη νότια συνοικία, που ονομάζεται Burgum, ήταν η καρδιά της πόλης που κατοικούταν από ένα μείγμα φυλών – Δυτικών, Εβραίων και κυρίως Χριστιανών Ορθοδόξων Ελλήνων.
Το 1522 μ.Χ. η Ρόδος κατακτήθηκε από τους Οθωμανούς Τούρκους. Κατά την Τουρκοκρατία κατασκευάστηκαν νέα κτίρια εντός της Παλαιάς Πόλης, κυρίως τζαμιά και λουτρά.

Το 1912 η Ρόδος καταλήφθηκε από ιταλικές δυνάμεις.

Το 1929, τα μεσαιωνικά τείχη και τα νεκροταφεία γύρω από την τάφρο,κηρύχθηκαν ιστορικά ορόσημα. Τα τείχη καθαρίστηκαν από τις προσθήκες που έκαναν οι Οθωμανοί και αποκαταστάθηκαν.

Το Παλάτι του Μεγάλου Μαγίστρου ξαναχτίστηκε και η Οδός των Ιπποτών ανακατασκευάστηκε, με στόχο την επίτευξη μιας Ευρωπαϊκής Μεσαιωνικής Καθαρότητας.

Το 1948, τα Δωδεκάνησα επανενώθηκαν με την υπόλοιπη Ελλάδα. Το 1960, όταν η πόλη ανακηρύχθηκε μνημείο πολιτιστικής κληρονομιάς από το Ελληνικό Υπουργείο Πολιτισμού, άρχισαν να πραγματοποιούνται αναστηλώσεις της μεσαιωνικής πόλης από το Υπουργείο, μέσω του Αρχαιολογικού Τμήματος. Από το 1985 ο Δήμος Ρόδου συμμετέχει στις εργασίες αποκατάστασης, σε συνεργασία με το Αρχαιολογικό Τμήμα και το Ταμείο Αρχαιολογικών Εισπράξεων.

Το 1988, η Μεσαιωνική Πόλη της Ρόδου εγγράφηκε στον Κατάλογο Παγκόσμιας Κληρονομιάς της UNESCO, σε αναγνώριση της μοναδικότητας του διαπολιτισμικού αρχιτεκτονικού πλούτου που είναι γνωστό ότι αντιπροσωπεύει. Επιπλέον, ο Δήμος της Ρόδου είναι μέλος του Οργανισμού Πόλεων Παγκόσμιας Κληρονομιάς, από την ίδρυση του Οργανισμού το 1993, υπό την αιγίδα της UNESCO.

Το 2003, η Ρόδος φιλοξένησε με μεγάλη επιτυχία το 7ο Παγκόσμιο Συνέδριο του OWHC (Οργανισμός Πόλεων Παγκόσμιας Κληρονομιάς), με τη συμμετοχή σχεδόν 1000 εκπροσώπων Ιστορικών Πόλεων – Δημάρχων και ειδικών – από όλο τον κόσμο.