熊本県球磨郡多良木村出身。陸軍大佐の土肥金在(同墓)の長男。
1926.3.27(T15)海軍兵学校卒業(54期)。同期に大石宗次(後に中佐:7-1-3)、鹿島萩麿(元皇族・後に大尉:多磨霊園合葬式墓地)らがいる。少尉候補生を経て、'27.10.1(S2)少尉に任官。'29.11.30 中尉となり蓬乗員、'32.12.1 鳥海乗員を経て、同.12.1 大尉に進み、運用術練習艦航海学生となる。菊月航海長、'34.11.1 漣航海長、練習艦隊参謀 兼 副官、'36.12.1 朧航海長、'38.6.1 球磨航海長を歴任した。
同.11.15 少佐に昇進し、川内航海長に着任。また海軍大学校に入学し、父の教え子の高木惣吉(海軍少将)に学ぶ。'40.6.17 海軍大学校卒業(53期)。同.10.15 連合艦隊の第4艦隊航海参謀に就任。'43.6.1 中佐に昇格し軍令部員となる。終戦近くには皇統護持作戦に関わる。
戦後、'51 台湾に移った中華民国の蒋介石に請われて台湾に渡り、中華民国の海軍を指導し、台湾の海軍の創設に貢献した。'62 帰国後は史料調査会に勤務した。'81 『海軍』(全15巻)の編集を主管した。正6位 勲3等。享年82歳。葬儀の際には台湾からも多くの弔問客がおとずれた。