Megalópolis es conocida por sus antiguas ruinas situado al noroeste del centro de la ciudad, en ambas orillas del río de Elisson. Las ruinas incluyen un antiguo teatro que solía albergar hasta 20,000 personas y tenía 30 m (98 pies) de altura. Otros puntos de referencia incluyen el Thersileon con 67 pilares y un templo (11,5 m × 5 m o 38 pies × 16 pies). Heródoto informó de la antigua creencia de que el área de la Megalópolis era un campo de batalla de la Titanomaquia. La base de esto aparentemente fue la presencia de depósitos de lignito, que son propensos a incendiarse en verano y pueden arder y quemar la tierra durante semanas (se supone que Zeus mató a los titanes con rayos; véase también a continuación), junto con la presencia de huesos fósiles de elefantes prehistóricos y rinocerontes. Heródoto informa a sus lectores que los huesos de «Titanes» se exhibieron en varios lugares de los alrededores al menos desde el siglo V a.C.
La ciudad fue fundada a través de un sinodal de veinte a cuarenta comunidades vecinas entre 371 y 368 a.C. por la Liga Arcadiana en un intento de formar un contrapeso político a Esparta. Megalópolis fue miembro de la Liga Arcadiana después de su fundación hasta la disolución de la federación en 362 a.C. En 331 a. C., Megalópolis fue invadida por los espartanos y hubo una batalla con los macedonios que acudieron en ayuda de Megalópolis. En 317 a.C., al comienzo de la Segunda Guerra de los Diádocos, Poliperconte, el nuevo Regente del Imperio Macedonio, sitió Megalópolis que se había puesto del lado de su enemigo Casandro. El asedio fracasó. En la década de 270 a.C., Aristodamos el Bueno logró tomar el control de la ciudad como un tirano respaldado por Macedonia. En 235 a.C., el segundo tirano de la ciudad, Lidias, renunció al control de la polis y la ciudad se convirtió en miembro de la Liga Aquea. En 222 a. C., el rey espartano Cleómenes III quemó la ciudad, pero fue reconstruida en los años posteriores a la destrucción. Como miembro de la Liga Aquea, Megalópolis tuvo una profunda influencia en la política federal y fue la ciudad natal de varias figuras aqueas notables como Filopemen, Lykortas y Polibio. La ciudad permaneció poblada bajo los romanos, pero en el siglo VI estaba casi completamente abandonada. Durante la época bizantina, y más tarde también otomana, la ciudad en el mismo lugar se llamaba Sináno (Σινάνο). Fue renombrado Megalopoli después de la Guerra de Independencia Griega.