愛知県出身。1885(M18)海軍機関学校旧3期（第一次）を首席で卒業。同期に平部貞一(後に少将：6-2-25)がいる。
1893から3年間グリニッジ英国海軍大学に留学し、デザイン・バイ・ユーザーの先駆者となった。
在英中、マラック機関少佐より教授を受けた講義ノートを、中島与曽八（のち中将）が翻訳して、「機関計画一斑」を作成、わが海軍機関計画の土台をつくった。
また、在英中の1896(M29)イギリス最古のロイヤルブラックヒース・ゴルフクラブで日本人として初めてゴルフをプレーした。
同宿の米国人士官二人の友人に誘われ、その友人の手引きでゴルフを行ったことを、自らの日誌に『ゴルフィングを為す』と書き残している。
これは日本にゴルフコースが誕生する1901より5年も前に本場英国でゴルフをしたということであり、日本人で初めてゴルフをプレーした人物と称される。
1903.9.26大監となり、呉造船廠造機科長兼海大教官、同年.11.30呉工廠造機部長、'06.1.26大佐、'07(M40)造船造兵監督官として再び英国に駐在し、翌年帰国後、優れた工場管理規程を作成した。
'09.12.1少将。'11.1.18再び呉工廠造機部長。'12.6.29侍命、'13.2.10(T2)予備。
この間、山本安次郎と共に機関学会創立に関わり、海軍機関術の発展充実に責献した。'15(T4)工学博士。
英国の技術を導入して国産の兵器を製造する英国の民間企業が出資し設立された日本製鋼の社長も務めた。功4級。享年81歳。妻は大館尚の二女のまち子（1946.12.13没 同墓）。
＊墓石前面「水谷叔彦 まち子」、裏面は墓誌となっており、真ん中に叔彦とまち子(M4.3.19-S29.5.17)の生没年月日が刻む。昭和廿三年十二月十日受洗、霊名はヨゼフ。水谷まち子は大館尚の二女。昭和廿六年十二月十三日受洗、霊名はマリアルチア。叔彦とまち子は明治丗年九月廿日結婚。左に水谷八郎と髙子の三男の水谷可元(H23.6.5受洗・霊名はヨハネ：S14.7.23-H23.6.5)。右に叔彦とまち子の早死した二女の刻みがある。墓所右側に「水谷家」、裏面は墓誌となっており、「父 八郎」、八郎と髙子の四男の「可捷」、「母 髙子」が刻む。八郎(M17.10.20-S19.11)は叔彦とまち子の長男。髙子(M45.2.15-H10.2.17)は平澤超郎の二女、八郎の妻。水谷可捷(S17.3.21-H4.6.14)。
