愛知県田原町野田村馬草(田原市)出身。成章館を経て、15歳の時に上京。司法省で働きながら、東京物理学校(東京理科大学)で学ぶ。5年かけて卒業し、横須賀海軍工廠に工手となる。
海軍工廠では無線電信研究所で木村駿吉(7-1-5-3)技師の助手となる。後年、師匠の木村駿吉が開発した「三六式無線電信機」を復元製作し、横須賀記念公園の記念艦「三笠」に寄贈している。海軍工廠の仕事で旅順に赴いた際に身体を壊し、帰国後辞職。郷里に帰るも、半年後に上京し再起。
1913(T2)特許を取った注水式乾電池の研究所を銀座で開所。'16 電気器具製造販売に乗り出す。神田に店を開き、五反田に工場を持つ。'17 照明器具の「山田三立社」(三立社山田商店)を創立。「三立」とは「造る人、売る人、使う人の三者が協調調和し、互いに限りなく繁栄していく」という理念である。
'23.9.1 関東大震災で神田の店は全焼したが、五反田の工場は無事であった。震災後の区画整理事業に関わり、地域に貢献した縁より、'29(S4)町会長に就任した。区画整理の流れより、'60「史蹟将門塚保存会」を結成し初代会長に就任。加えて神田明神の総代も長く務めた。更に郷里の田原市の小学校などに図書や器具を寄贈し続けた。
'33 向島にあったモーター修理と漁業用小型発電機を作っている町工場の主が急逝、若干の債権のあった山田壽二に未亡人から処理を依頼をされる。2年ほどで再建し引き渡す。その間の経験から船舶用発電機が将来、極めて有望であることを知り、山田三立社の事業の設備も一新して船舶用発電機の製造販売を行ない、漁船に発電機を装備することを立案した。「コンパクトで、湿気と動揺に堪え、しかも機械操作に慣れていない漁師さんにも間違いなく操作できるもの」を掲げ「集魚灯」の開発に成功。まずは辻堂から熱海にかけてお得意様回りを始める。
'39 日本船舶電気装備組合理事に就任。同業他社からも受注があり、お得意様も固定し安定経営ができるようになるも、この時期より徐々に資材不足が目立つようになり戦争の影が忍び寄ってくる。そこで、'41 同業他社に呼びかけ漁船電機装備組合を結成した。組合は国の計画造船の一部を請け負い、生き延びることになる。'42 海務院乙造船電機協議会理事長を委嘱される。
電気機械統制会会長だった安川電機社長の安川第五郎から説得され、'43末に他2社と合併、「大洋電機」が設立され、山田壽二が代表取締役社長に就任した。翌年、岐阜県の笠松町に工場4棟、事務所、倉庫など建坪約1000坪の新工場が完成した(現在の岐阜工場)。戦争により東京の事務所は全焼し、工場も一部被災したが、何とか生き延び終戦。
戦後は元々の漁業用小型発電機の仕事に戻る。また船舶電具協議会理事長および日本船舶工業連盟常任理事に就任した。'47 日本船舶工業協議会理事。'48 運輸省重要資材中央割当新議会委員を委嘱された。
'49 工場長だった杉山力之助に社長の座を譲り、代表取締役会長に就任。一方で、神田に「三信船舶電具株式会社」を設立した。'50 日本工業技術院標準規格審議会船舶部専門委員を委嘱され、日本電機工業会評議員となった。'55 大洋電機株式会社は息子の山田澤三(同墓)が代表取締役社長に就任し、壽二は相談役。グローバルな会社へと飛躍させていくことになる。同年、紺綬褒章受章。'56 大洋電機販売株式会社、'59 大洋鋳造株式会社を設立。'60 日本造船関連工業会理事、記念艦三笠保存会評議員に就任し、撤去されていた三笠艦の通信機を再製して装備した。
'62 大信実業株式会社、三信電具製造株式会社を設立。翌年、日本工業標準調査会船舶電気部会特別委員に委嘱され、日仏海洋学会顧問に就任。'64 日本小型舶用機械輸出振興会理事となる。'66 羽島電機株式会社を設立。舶用電気機器について、海運・漁業界に貢献し、特許件数23件を持ち、特に両接点稼働式気中遮断器・三相交流発電機の自動揃速装置の開発により、船舶の自動化に貢献した。
'66 東京神田錦町3丁目に地上7階地下1階の本社ビルが完成した翌月に逝去。享年77歳。勲4等旭日小章綬章追贈。従5位に叙せられた。没後、'79 大洋電機創立35年記念に『山田壽二伝』が刊行された。
*墓石は和型「山田家之墓」。右側に墓誌が建つ。墓誌は山田壽二の早死した長女と長男の二児が刻む(順子:T6.9.25-T7.7.29、恭三:T7.12.19-T10.4.8)。次に二男で戦死した山田洋三(T9.5.22-S19.8.2:テニアン島にて戦死・従7位勲6等)。山田壽二の戒名は願船院釋壽仙居士。「従七位勲六等」と先に刻み、下に「従五位勲四等」とも刻む。妻はキミ(M27.7.14-S41.5.2:德風院釋妙君大姉)とは1916(T5)に結婚。その次は孫で3代目の山田信三の妻の美栄(S24.7.3-H27.8.9:釋尼壽寂:突然の脳腫瘍で急逝)。墓誌最後に澤三の三男で2代目の山田澤三が刻む。山田澤三の戒名は法船院釋恩澤。