有關古代奧運會的起源的傳說有很多，最主要的有以下兩種：一是古代奧林匹克運動會是為祭祀宙斯而定期舉行的體育競技活動，另1種傳說與宙斯(Zeus)的兒子赫拉克勒斯(Heracles)有關。赫拉克勒斯因力大無比獲“大力神”的美稱。他在伊利斯城邦完成了常人無法完成的任務，不到半天功夫便掃干凈了國王堆滿牛糞的牛棚，但國王不想履行贈送300頭牛的許諾，赫拉克勒斯一氣之下趕走了國王。為了慶祝勝利，他在奧林匹克舉行了一場盛大的運動會。所以才有了奧運會。
古希臘人于公元前776年規定每4年在奧林匹克舉辦一次運動會，原因是為了和平和表示尊重奧林匹克眾神(即古希臘神話里的宙斯等神)。當時各個城邦有他們自己算年的方法，并沒有一個共通的紀元。但是各城邦之間每年度最重要的大事就是希臘的大運動會。這些運動會一共有四種：奧林匹克，匹西亞，尼米亞與伊斯米亞運動會。這四個運動會以奧林匹克為首，依照順序分別在四個地點舉行，這樣形成的一個四年周期，稱為奧林匹克周期(Olympiad)，成為城邦之間計算年份的方法。
運動會舉行期間，全希臘選手及附近的百姓相聚于奧林匹亞這個希臘南部風景秀麗的小鎮。公元前776年在這里舉行第一屆奧運會時，多利亞人克洛斯在192.27米短跑比賽中取得冠軍，成為國際奧林匹克運動會榮獲第一個項目的第一個桂冠的人。后來，古希臘運動會的規模逐漸擴大，并成為顯示民族精神的盛會，比賽的優勝者獲得月桂、野橄欖和棕櫚編織的花環等。
從公元前776年開始，到公元394年止，歷經1170年，共舉行了293屆古代奧林匹克運動會。公元394年奧林匹克運動會被羅馬皇帝狄奧多西一世禁止。
