菲尔普斯参加过4届奥运会。
2000年，15岁的菲尔普斯首次作为美国68年来最年轻的奥运游泳选手参加悉尼奥运会，获得200米蝶泳的第5名。
2004年雅典奥运会，菲尔普斯夺得男子200米、400米个人混合泳，100米、200米蝶泳，4乘200米自由泳接力和4乘100米混合泳接力6枚金牌，以及200米自由泳和4乘100米自由泳接力2枚铜牌。
2008年北京奥运会，菲尔普斯共获得8枚金牌，成为单届奥运会夺取金牌最多的选手。
2012年伦敦奥运会中，菲尔普斯获得四枚金牌。
2016里约奥运会，菲尔普斯获得200米个人混合泳的金牌，100米混合泳接力赛金牌，赛后菲尔普斯正式宣布退役。
