アクロポリスの地では、新石器時代から人類が定住していた痕跡が確認されています（ペラスゴイ人参照）。しかし、アッティカ地方が都市として組織化されたのは、イオニア人の侵入以降のことでした。その中には、後のアテネとなる「ケクロピア」と呼ばれる都市も含まれていました。
アテネの建国
アテネは、紀元前800年頃、いくつかの村が統合される「シュノイキスモス（市域統合）」によって正式に成立したとされています。ドーリア人の侵入を免れたこれらの村々は、アクロポリスという天然の要塞を活かすことで、地域を恐怖に陥れた略奪者たちの群れに抵抗することができました。
歴史家トゥキュディデスによれば、「アテネ」が複数形で表現されるのは、一つの都市を形成するために合流した古い村々の名残だといいます。また伝説によれば、ミノタウロスを退治した英雄テセウスこそが、このアッティカ統一を導いた人物とされています。
ペリクレス時代の黄金期
アテネは、紀元前1千年紀を通じてギリシャを代表する強国の一つでした。その最盛期は、紀元前5世紀のペリクレスの時代に訪れます。ラウリオンの銀山と同盟諸国からの貢納による経済力、軍事力、そして政治的・文化的な影響力を兼ね備え、アテネは当時「ギリシャの首都（ἄστυ〔アステュ〕）」と称されました（イソクラテス）。
やがてアテネはデロス同盟を実質的な自国の帝国へと変貌させますが、この帝国は、宿敵スパルタとのペロポネソス戦争の終結とともに解体されることとなりました。
紀元前384年生まれの哲学者アリストテレスも、著書『政治学』においてアテネの民主政を批判するなど、アテネの知的 life に大きく関与しました。
マケドニア支配の時代
紀元前338年、カイロネイアの戦いでフィリッポス2世が勝利を収めると、アテネは新たなマケドニア帝国の傘下に入りました。それでもなおギリシャ文明の大中心地であり続けた同市は、リュクルゴスの主導のもとで新たな開発や美化事業の恩恵を受けました。
しかし紀元前323年のアレクサンドロス大王の死とマケドニア帝国の分裂後、アテネは依然としてマケドニア王たちの支配下に置かれ、次第に忘却の中へ沈んでいきます。
ローマ時代：文化の灯台として
紀元前86年、ローマの将軍スラ（スラ）によって征服されたアテネは、城壁と政治的な役割を失いました。しかしながら、確立されたパックス・ロマーナ（ローマの平和）のもとで、同市は真の知的拠点として輝き続けました。
アテネの文化と生活様式に魅了されたローマ人は、その芸術作品や習俗を模倣し、絶えず都市を美化していきました。風の塔、アクロポリスのローマとアウグストゥス神殿、ローマン・アゴラ、旧アゴラのオデオン劇場などは、この時代に建設された記念碑です。紀元1年頃には、市の人口は約30万人に達していました。
キリスト教の伝来とハドリアヌス帝の都市整備
西暦53年以降、使徒パウロがアレオパゴス（アレオパゴス評議会）前で行った説教は、アテネにおいてキリスト教に大きな反響をもたらすには至りませんでした。それでも彼は、由緒ある評議会の一員であるアレオパゴスのディオニュシオスと、ダマリスという女性の改宗に成功しています（使徒行伝17章33〜34節）。
その後、ギリシャに深い愛着を持っていた皇帝ハドリアヌス（在位117〜138年）は、先代たちの都市計画事業を引き継ぎました。彼の治世には、彼の名を冠した図書館、オリュンピオン（ゼウス神殿）、イリソス川の向こう側に建設された巨大な大理石製スタジアム、さらに新しい道路や水道橋が造られました。