La Mégalopole est connue pour ses ruines antiques situées au nord-ouest du centre-ville, sur les deux rives de la rivière Elisson. Les ruines comprennent un théâtre antique pouvant accueillir jusqu’à 20 000 personnes et mesurant 30 m (98 pi) de haut. D’autres monuments incluent le Thersileon avec 67 piliers et un temple (11,5 m × 5 m ou 38 pi × 16 pi). Hérodote a rapporté l’ancienne croyance selon laquelle la région de la Mégalopole était un champ de bataille de la Titanomachie. Le fondement de cela était apparemment la présence de gisements de lignite, qui sont susceptibles de prendre feu en été et peuvent couver et brûler la terre pendant des semaines (Zeus est censé avoir tué les Titans avec des éclairs; voir aussi ci-dessous), couplé à la présence d’os fossiles d’éléphants préhistoriques et de rhinocéros. Hérodote informe ses lecteurs que les os de « Titans » ont été exposés dans divers endroits des environs au moins depuis le 5ème siècle avant JC.
La ville a été fondée par un synode de vingt à quarante communautés voisines entre 371 et 368 av.J.-C. par la Ligue arcadienne dans le but de former un contrepoids politique à Sparte. Megalopolis était membre de la Ligue arcadienne après sa fondation jusqu’à la dissolution de la fédération en 362 avant JC. En 331 avant JC, Mégalopole a été envahie par les Spartiates et il y a eu une bataille avec les Macédoniens qui sont venus à l’aide de Mégalopole. En 317 av.J.-C., au début de la Seconde Guerre des Diadoques, Polyperchon, le nouveau régent de l’Empire macédonien, assiège Mégalopole qui s’est rangée du côté de son ennemi Cassandre. Le siège a échoué. Dans les années 270 avant JC, Aristodamos le Bon a réussi à prendre le contrôle de la ville en tant que tyran soutenu par la Macédoine. En 235 av.J.-C., le deuxième tyran de la ville, Lydiade, abandonna le contrôle de la polis et la ville devint membre de la Ligue achéenne. En 222 avant JC, le roi spartiate Cléomène III a incendié la ville mais elle a été reconstruite dans les années qui ont suivi la destruction. En tant que membre de la Ligue achéenne, Mégalopole a eu une profonde influence sur la politique fédérale et c’était la ville natale de plusieurs personnalités achéennes notables telles que Philopoemen, Lykortas et Polybe. La ville est restée peuplée sous les Romains mais au 6ème siècle, elle était presque complètement abandonnée. À l’époque byzantine, et plus tard aussi ottomane, la ville au même endroit s’appelait Sináno (Σινάνο). Il a été renommé Megalopoli après la guerre d’indépendance grecque.