2004年、水谷は初めて国別対抗戦に出場した。ユース世界選手権ではダブルスで金メダルを獲得したが、シングルスは16回戦で敗退した。ポーランドで行われたYouth-World Junior Circuitでは、準々決勝まで進み、吉村真晴に敗れた。2005年、世界選手権に初出場したが、メダル獲得はならなかった。シングルスでラウンド32に進出。優勝は逃したが、世界ランキングは800位から720位に上昇した(ベストプレーヤーは最低の数字を持つ)。この年、彼はワールドジュニアサーキットで優勝することができた。2005年のYouth-WTTCでは、Chen Qiを破って銀メダルを獲得した。彼のチームはダブルスで金メダルと銅メダルを獲得した。初のプロツアーでは、ラウンド32に進出。アジア選手権では、好プレーを見せた。メダル獲得はならなかったが、ランキングは600位から520位にアップした。2006年、ブレーメンで開催されたWTTTC2006に出場し、日本代表として14位入賞を果たした。この年のプロツアーでは、準々決勝に進出した。
2007年、WTTCに参加し、シングルスで再びラウンド32に進出。ダブルスでは新記録となる準々決勝進出を果たした。アジア選手権では、チームとして銀メダルを獲得。ダブルスで銅メダル、シングルスでラウンド16に進出。アジアカップでは銅メダルを獲得。2008年、チームとして初めてブローズを獲得。台湾オープンでは銅メダルを獲得。アジアカップでは、4位入賞を果たす。
2009年、水谷はリンツで開催されたワールドチームカップに出場し、日本チームは5位入賞を果たした。ワールドカップでは、水谷は1位指名を受けた。9位から12位まで到達した。
2009年世界選手権(横浜)では、ダブルスで銅メダルを獲得。シングルスとミックスカテゴリーではラウンド16に進出した。この年、韓国オープンで金メダル、ジャパンオープンで銅メダル、カタールオープンで銀メダルと、プロツアーで初のメダルを獲得した。この年、ランキング50位となる。
2010年、2度目のワールドカップに出場し、準決勝に進出した。張継科と対戦し、3:1のリードの後、3:4で敗れた。3位決定戦では、ティモ・ボルに敗れた。4位で大会を終えた。WTTCでは、再び3位入賞を果たした。プロツアーグランドファイナルで、初の金メダルを獲得。日本オープン、中国オープン、韓国オープンで、それぞれ金メダル。アジア競技大会では3位入賞を果たした。
2011年のワールドカップでは、ティモ・ボルに敗れ、4位となった。WTTCではメダルこそ逃したものの、自己最高位となる準々決勝に進出した。この年、プロツアー・グランドファイナルズではラウンド16までしか進めなかった。この年、世界ランキングは20位となった。
2012年、オリンピック日本代表候補となり、団体で準々決勝まで進出、シングルスでは王皓に敗れベスト16となった。アジア選手権では再び銀メダルを獲得。シングルスでは準々決勝に進出した。WTTTCでは銅メダルを獲得した。
2013年、水谷は1回戦で敗退。ダブルスでは、銅メダルを獲得。ワールドチームカップでは、日本チームが銅メダル。アジア選手権では銀メダルを獲得。シングルスは準々決勝まで進出。
2014年、水谷はプロツアー・グランドファイナルズで、決勝でディミトリー・オヴチャロフを下し、2度目の金メダルを獲得した。チームでは、3度目の銅メダルを獲得した。ドイツオープンでは、オヴチャロフに敗れた。アジアカップでは、3位入賞。
2015年、WTTCに推薦され、2度目の準々決勝に進出した。そこで張継科に敗れ、銅メダル獲得となった。水谷はアジアカップで2度目の3位入賞を果たした。ワールドカップでは4回目の4位入賞を果たした。この年、世界ランキング9位となる。
2016年、WTTTCで銀メダルを獲得。決勝では中国に敗れた。この年のワールドカップには出場しなかったが、ポーランド・オープン、スロバニア・オープン、クウェート・オープンで金メダル獲得。水谷は2016年のオリンピックでも大活躍した。シングルスで銅メダル、団体で銀メダルを獲得した。その活躍もあり、世界ランキングは5位まで来ました。
アジアカップ2017(ドバイ)では、5位入賞を果たした。ワールドカップでは準々決勝で敗退。WTTCでは、敗退。その時は播戸智一に。ダブルスでは、再び銅メダルを獲得。
2018年、日本代表はWTTCでスウェーデンに準々決勝で敗れたが、水谷はジャパンオープンで銅メダルを獲得した。2017/2018シーズンからは、ロシアのクラブ「ファケル・ガズプロム・オレンブルク」でプレーしている。