Die antike Stadt Rhodos, deren Bau 408-407 v. Chr. begann, wurde nach dem Raster der Stadtplanung entworfen, das vom grössten Stadtplaner der Antike, Hippodamus von Milet, entwickelt wurde. Es galt als eine der schönsten und am besten organisierten Städte der Antike, von denen wir die genaue Platzierung der Straßen, Plätze und Gebäude kennen. 

Zu dieser Zeit entwickelte sich Rhodos zu einem der wichtigsten maritimen und kommerziellen Zentren des östlichen Mittelmeers. Neben seinen großen Errungenschaften im Handel und der Schifffahrt genoss Rhodos auch Berühmtheit in den Künsten, Literatur und Philosophie. Als Provinz des nachfolgenden Römischen Reiches verlor Rhodos nie seine strategische Bedeutung in der Region, weder kulturell noch wirtschaftlich, obwohl es nicht die große und mächtige Stadt war, die es in der hellenistischen Zeit gewesen war.

Im 4. Jahrhundert n. Chr. war die hellenistische Stadt an Grösse geschrumpft, in der sie während der byzantinischen Zeit blieb. Unter der ständigen Bedrohung durch arabische Überfälle, die im 7. Jahrhundert begannen, wurde die Stadt Rhodos von den Byzantinern befestigt, die sie in zwei Teile unterteilten: die Akropolis (später Palast der Grossmeister) und die Polis (untere Stadt).

Im Jahr 1309 n. Chr. siedelte sich der Orden der Hospitalritter des Hl. Johannes von Jerusalem auf der Insel an und benutzte sie als ihr europäisches Hauptquartier sowie als eine der wichtigsten Zwischenstationen für Pilger, die ins Heilige Land reisen. Die Hospitalier befestigten die Inselhauptstadt mit den byzantinischen Befestigungsanlagen und umschlossen ein Gebiet, das zwei Fünftel grösser als die byzantinische Stadt und ein Viertel kleiner als die hellenistische Stadt war. Eine von Ost nach West verlaufende innere Mauer teilte die Stadt in zwei Teile.

Das nördliche Viertel, das Collachium, war das Verwaltungszentrum und enthielt neben anderen Gebäuden den Palast des Grossmeisters und das Krankenhaus. Das größere, südliche Stadtviertel, Burgum genannt, war das Herz der Stadt, bewohnt von einer Mischung von Rassen – Westler, Juden und vor allem christlich-orthodoxe Griechen.

Im Jahre 1522 n. Chr. wurde Rhodos von den osmanischen Türken erobert. Während der osmanischen Besetzung wurden in der Altstadt neue Gebäude errichtet, vor allem Moscheen und Bäder.

1912 wurde Rhodos von italienischen Truppen besetzt.

Im Jahre 1929 wurden die mittelalterlichen Mauern und die Friedhöfe rund um den Graben zu historischen Denkmälern erklärt. Die Mauern wurden von den Ergänzungen durch die Osmanen befreit und restauriert.

Der Palast des Grossmeisters wurde wieder aufgebaut und die Straße der Ritter wurde rekonstruiert, um eine mittelalterliche Reinheit Europas zu erreichen.

1948 wurden die Dodekanes mit dem Rest Griechenlands vereinigt. Im Jahr 1960, als die Stadt vom griechischen Kulturministerium zum Denkmal des Kulturerbes erklärt wurde, begann das Ministerium mit der Restaurierung der mittelalterlichen Stadt durch die archäologische Abteilung. Seit 1985 beteiligt sich die Gemeinde Rhodos in Zusammenarbeit mit dem Archäologischen Amt und dem Archäologischen Fund an den Restaurierungsarbeiten.

1988 wurde die mittelalterliche Stadt Rhodos in die UNESCO-Liste des Weltkulturerbes aufgenommen, in Anerkennung der Einzigartigkeit des transkulturellen architektonischen Reichtums, für den sie bekannt ist. Darüber hinaus ist die Stadt Rhodos Mitglied der Organisation der Welterbestädte, die 1993 unter der Schirmherrschaft der UNESCO gegründet wurde.

2003 fand auf Rhodos mit großem Erfolg der 7. Weltkongress der OWHC (Organisation der Welterbestädte) statt, an dem fast 1000 Vertreter historischer Städte – Bürgermeister und Experten – aus der ganzen Welt teilnahmen.