2021年10月24日，就在他复出之后，水谷宣布退役，结束了自己的职业生涯，得到了队友石川佳全的支持，虽然张本日和多次留用，希望水谷继续坚持参加世界乒乓球锦标赛的结束，但水谷早就做好了只准备回来打两场比赛， 最后选择离开，迎来新的生活。
水谷是日本乒乓球的传奇选手，两届奥运会都曾击败全国乒乓球世界冠军徐伟，多次带领日本队登上领奖台，里约奥运会是水谷职业生涯的巅峰，团体赛以微弱优势击败徐伟，获得男子团体银牌，单打冠军萨姆索诺夫铜牌， 后来他也是教练组研究的重点，被横扫了很多次，巡回赛成绩并不理想。
后来，水谷自身的伤势也比较严重，再加上眼疾的影响，只能戴眼镜继续打球，其实如果不是伊藤美成的鼓励，给大谷带来了极大的信心，等等，在东京奥运会上他早就退役了，支持水谷的各方面因素都坚持到了最后， 再次与徐伟站在决赛的舞台上争夺金牌，并赢得比赛。
在东京奥运会混合双打决赛中，水谷/伊藤瑞穗4-3险胜徐/刘世轩，获得日本乒乓球史上第一枚奥运金牌，在球队水谷中随队摘铜牌，虽然一般比赛中水谷水谷水队表现不好，经常冷，但关键时刻他真的没有掉链， 张奔日虽然很有才华，但远非水谷的成就。
石川佳全还是非常崇拜水谷，两人都是队友一起参加过很多大赛，虽然中国球迷不喜欢水谷，尤其是讨厌日本球员，但不得不承认，他真的有能力来到大赛上，能打出非凡的。
其实自从水谷退役后，伊藤美成因为没有合适的搭档，所以放弃了混双项目，把更多的精力投入到与志田的女双中，日本队开始培养新的组合，会给年轻球员带来更多的机会，这也是水谷最想看到的情况， 他很久以前就说过，希望把机会留给小将领，让他们登上比赛的舞台。
值得一提的是，在水谷宣布退役后，没过多久，他就和搭档张奔日一起回到了日本联赛。两场打一胜一负，赛后水谷表示，这真的是要结束自己的职业生涯，向大家说再见，新老交替是很正常的局面，老将退役换来了年轻球员的崛起，更多的新面孔将登上比赛的舞台。