1987年，北岛康介开始练习游泳。2000年，北岛康介获得悉尼奥运会男子100米蛙泳第四名。2001年，北岛康介获福冈世界游泳锦标赛男子200米蛙泳第三名，收获了生涯首枚世界大赛奖牌。2002年，北岛康介获得釜山亚运会男子200米蛙泳冠军，并以2分09秒97的成绩打破了尘封10年之久的世界纪录，成为自1972年以来第一个打破游泳世界纪录的亚洲运动员。2004年，北岛康介获得雅典奥运会男子100米蛙泳和200米蛙泳的金牌，并再度打破200米蛙泳世界纪录。2008年，北岛康介获得北京奥运会100米和200米蛙泳金牌，创造了日本选手连续两届奥运会夺得两个游泳项目金牌的历史
