熊本県出身。熊本藩士の神山譲の長男。1889(M22)分家した。
第一高等学校を経て、1895(M28)東京帝国大学法科大学政治学科を卒業。同.11 文官高等試験行政科試験に合格。内務省に入省し、県治局属となる。
1896.5 青森県参事官に就任。以降、司法大臣秘書官 兼 参事官、衆議院書記官 兼 内務省参事官、農商務大臣秘書官 兼 農商務省参事官を経て、農商務省水産局長を歴任した。
1908.8.29(M41)第17代 群馬県知事に就任(任期:1908.8.29-1912.3.28)。約3年7か月の長期にわたって県政を担当。この間、'10 前橋市で関東東北の各府県が参加した一府十四県聯合共進会を主催した。同.12.26 勲3等瑞宝章受章。'12.3.28 知事を辞して休職。同.12 復帰して鉄道院理事に就任。'13.3.17(T2)依願免本官し退官した。
退官後は露領水産組合長、海外興業株式会社社長を務めた。'18.6.21 功労のあった華族や官吏を優遇する名誉職である錦鶏間祗候(きんけいのましこう)に任じられた。'37(S12)著書『小楼清風記』を刊行。正4位。享年72歳。
*墓所には二基。右側和型「神山閏次 / 妻 正 墓」、左面に神山閏次と妻の正の簡略歴が刻む。閏次は享年74歳と刻む。左側和型「久島家之墓」、裏面「平成十三年春彼岸 久島宏 建之」、右面は墓誌となっており、久島次郎(T12.8−H12.10.26歿・行年77才・宏の父)が刻む。
*妻の正(1876.12.10-1960.8.1)は東京出身。男爵の足立正声の長女。1895(M28)華族女学校卒業。1896 神山閏次と結婚。五女を儲ける。知子(M31.1生)、絢子(M32.12生)、素子(M34.8生)、松子(M36.11生)、鶴子(M38.9生)。
*長女の知子は、北海道池田町の開拓者であり十勝全体の農業育成に尽力した久島重義の長男の久島精一に嫁いだ。このご縁から、久島重義の孫の久島次郎を養子に迎えた。ただ、久島家の墓石を建立していることから、神山家に入籍したわけではない。なお二女の絢子は田淵彦左衞門の五男の田淵敬治に嫁いだ。三女の素子は衆議院議員の内山安兵衞の長男の内山善一に嫁いだ。