古希腊人于公元前776年规定每4年在奥林匹克举办一次运动会，原因是为了和平和表示尊重奥林匹克众神(即古希腊神话里的宙斯等神)。当时各个城邦有他们自己算年的方法，并没有一个共通的纪元。但是各城邦之间每年度最重要的大事就是希腊的大运动会。这些运动会一共有四种：奥林匹克，匹西亚，尼米亚与伊斯米亚运动会。这四个运动会以奥林匹克为首，依照顺序分别在四个地点举行，这样形成的一个四年周期，称为奥林匹克周期(Olympiad)，成为城邦之间计算年份的方法。
运动会举行期间，全希腊选手及附近的百姓相聚于奥林匹亚这个希腊南部风景秀丽的小镇。公元前776年在这里举行第一届奥运会时，多利亚人克洛斯在192.27米短跑比赛中取得冠军，成为国际奥林匹克运动会荣获第一个项目的第一个桂冠的人。后来，古希腊运动会的规模逐渐扩大，并成为显示民族精神的盛会，比赛的优胜者获得月桂、野橄榄和棕榈编织的花环等。
从公元前776年开始，到公元394年止，历经1170年，共举行了293届古代奥林匹克运动会。公元394年奥林匹克运动会被罗马皇帝狄奥多西一世禁止。
有关古代奥运会的起源的传说有很多，最主要的有以下两种：一是古代奥林匹克运动会是为祭祀宙斯而定期举行的体育竞技活动，另1种传说与宙斯(Zeus)的儿子赫拉克勒斯(Heracles)有关。赫拉克勒斯因力大无比获“大力神”的美称。他在伊利斯城邦完成了常人无法完成的任务，不到半天功夫便扫干净了国王堆满牛粪的牛棚，但国王不想履行赠送300头牛的许诺，赫拉克勒斯一气之下赶走了国王。为了庆祝胜利，他在奥林匹克举行了一场盛大的运动会。所以才有了奥运会。
