megalopolis tunnetaan antiikin aikaisista raunioistaan, jotka sijaitsevat kaupungin keskustan luoteispuolella, elissonjoen molemmilla rannoilla. Raunioihin kuuluu muinainen teatteri, johon mahtui enimmillään 20 000 ihmistä ja joka oli 30 metriä (98 jalkaa) korkea. Muita maamerkkejä ovat Thersileon, jossa on 67 pylvästä ja temppeli (11,5 m × 5 m tai 38 ft × 16 ft). Herodotos kertoi antiikin uskomuksen, jonka mukaan Megalopoliin alue oli Titanomakhian taistelukenttä. Tämän perustana olivat ilmeisesti ruskohiiliesiintymät, jotka ovat alttiita syttymään tuleen kesällä ja voivat kyteä ja kärventää maata viikkoja (Zeuksen oletetaan surmanneen Titaanit salamoilla; KS.myös alla), sekä esihistoriallisten norsujen ja sarvikuonojen fossiiliset luut. Herodotos kertoo lukijoilleen, että ”Titaanien” luita oli näytteillä eri paikoissa ympäröivällä alueella ainakin 400-luvulta eaa.
kaupungin perusti kahdestakymmenestä neljäänkymmeneen naapurikuntaan kuulunut synodi vuosina 371-368 eaa.Arkadian liitto tarkoituksenaan muodostaa poliittinen vastapaino Spartalle. Megalopolis kuului Arkadian liittoon sen perustamisen jälkeen liiton hajoamiseen vuonna 362 eaa. Spartalaiset valtasivat Megalopoliin vuonna 331 eaa ja siellä käytiin taistelu Megalopoliin avuksi tulleita makedonialaisia vastaan. Vuonna 317 eaa diadokkien toisen sodan alussa Makedonian valtakunnan uusi hallitsija Polyperkhon piiritti Megalopolista, joka oli asettunut hänen vihollisensa Kassandroksen puolelle. Piiritys epäonnistui. Aristodamos hyvä onnistui 270-luvulla eaa ottamaan kaupungin haltuunsa Makedonian tukemana tyrannina. Vuonna 235 eaa.kaupungin toinen tyranni Lydiades luopui polisten hallinnasta ja kaupungista tuli Akhaian liiton jäsen. Spartan kuningas Kleomenes III poltti kaupungin vuonna 222 eaa., mutta se rakennettiin uudelleen tuhon jälkeisinä vuosina. Akhaian liiton jäsenenä Megalopoliksella oli suuri vaikutus liittovaltion politiikkaan ja se oli useiden merkittävien akhaialaisten merkkihenkilöiden, kuten Filopoemenin, Lykortaksen ja Polybioksen, kotikaupunki. Kaupunki säilyi asuttuna roomalaisten aikana, mutta 600-luvulle tultaessa se oli lähes kokonaan hylätty. Bysanttilaisella ja myöhemmin myös Osmanien valtakaudella samalla paikalla sijainnutta kaupunkia kutsuttiin nimellä Sináno (Σινάνο). Se nimettiin uudelleen Megalopoliksi Kreikan vapaussodan jälkeen.