大阪出身。東北学院大学神学部卒業。和歌山県農会書記、のち神学校に学び、東北で農民の生活改善と伝道に従事した。
神戸市新川の賀川豊彦(同墓)を訪ね、農民運動をおこすことを勧められ、1922(T11)2人が中心となって日本農民組合を創立、初代組合長となる。賀川は理事に就任した。
'26日農が主唱して結成された労働農民党の初代中央執行委員長となったが、党内の左右対立から同年12月に辞任、脱党して日本労農党系として行動。
'27(S2)日農の第2次分裂で日労党系の全日本農民組合の組合長となり、翌年日農が再合同して全国農民組合が結成されると、その中央執行委員長に選ばれた。
'32(S7)大阪5区から全国労農大衆党公認として衆議院議員に立候補して初当選。'36〜'37社会大衆党から出馬し2期連続当選。'42翼賛選挙でも非推薦のまま当選。
戦後、日本農民組合が再組織されると顧問となり、衆議院議員としては社会党に属し、'51分裂では右派に所属。'55左右社会党の統一後、衆議院副議長となった。
選挙では合計9回当選した。享年78歳。没後に『土地と自由のために−杉山元治郎伝』('65刊行会編)が出された。