1896年，在雅典举行的第1届现代奥林匹克运动会上，冠军获得的是一枚银质奖章和一个橄榄枝做的花冠，亚军获得的是一枚铜质奖章和一顶桂冠。此奖章是由法国艺术家儒勒·夏普朗精心设计的。
第二届奥运会在巴黎举行，竞赛规程规定要颁发“特别富有艺术意义”的奖品，结果取消了奖章，而给每个奥运会参加者发了1枚长方形的纪念章，图案是勇士手执橄榄枝。
随后几届奥运会，各自的奖章图案设计各具风格，没有形成固定的样式。直到1928年，奥运会在荷兰的阿姆斯特丹举行，奖章由意大利佛罗伦萨艺术家朱塞佩·卡西奥里教授设计，图案是象征友爱、和睦、团结的手抱橄榄枝的女塑像。这枚奖章不仅授予运动员，也授予与奥运会同时举行的艺术竞赛的优胜者。自此，以后各届奥运会奖章正面的图案保持不变，只把举办地名与届数作相应的变更。
