1896年4月6日下午3时，希腊国王乔治一世宣布了大会开幕。维凯拉斯、顾拜旦等国际奥委会官员出席了开式。在开幕典礼中，演奏了一曲庄严的古典弦乐，有八万人参加了开幕式。
本届比赛项目有田径、游泳、举重、射击、自行车、古典式摔跤、体操、击剑和网球9个大项。原计划中有赛艇项目，后未举行。取消的原因有两种不同的说法，一说是气候不佳海面风大，无法进行；另一说法是无人报名，不得不改变计划。
闭幕式由希腊国王乔治一世主持，并颁发奖牌，当时对奖牌质量的成分、规格大小和图案设计等，都无严格的规定。据说，东道主认为金子常常与赌博游戏连在一起，显得俗气，故奖牌只有银、铜牌两种。授予冠军的是银牌和橄榄环，亚军的是铜牌和月桂花冠。后来，为了统计上的方便，本届奥运会奖牌仍按金、银、铜3类计算。
