東京出身。山之内弘、敏子(共に同墓)の長男。1956(S31)東京大学工学部機械工学科卒業。在学中に鉄道研究会に属す。卒業後、日本国有鉄道(国鉄)に入社。
'61 弱冠27歳で大阪鉄道管理局京都客車区長、同 向日町運転区長に就任。特急「白鳥」「かもめ」「みどり」等のディーゼル化に尽力。'62 本社運転局に転属後は、列車課補佐、翌年からは計画課補佐になり、信越本線横川駅-軽井沢駅間の粘着運転切り替えや、特急列車のスピードアップに携わる。
'66 東京鉄道管理局運転部電車課長、'68 本社運転局保安課補佐を経て、'69 外務部補佐となり、国際鉄道連合事務局へ出向しパリに赴いた。帰国後、'72.6 名古屋鉄道管理局運転部長、'74 経営計画室計画主幹、'76 運転局調査役、'77 運転局保安課長、'79 運転局計画課長、'81 東京北鉄道管理局長を歴任し、'82 本社運転局長に就任し、運転業務全般にかかわった。'85 常任理事を務めた。
'87 国鉄分割民営化に伴い、JR東日本が誕生し、東日本旅客鉄道株式会社代表取締役副社長に就任した。オリエント急行の日本運行に携わったほか、「寿命半分・価格半分・重量半分」のフレーズを掲げる新型車両の開発を発案し京浜東北線に導入した。更に自動改札機の導入を強く推進し、Suicaの成立にも影響を与えた。また国鉄では運転士が自らの原因で正常運転から30秒遅れると処分を受ける慣例が100年以上続いていたが、先例主義を嫌い、JR発足後、その慣例を辞めさせ、鉄道における事故対策などに注力し、改革を実現させていった。
その後、'93(H5)代表取締役副会長、'96 取締役会長を務め、2000(H12)退任し、取締役相談役。退任後は、国鉄分割民営化を成功させた手腕を買われ、宇宙開発事業団(NASDA)理事長に就任。H2ロケット打ち上げの失敗に揺らぐ同事業団を立て直し、2001 打ち上げの総責任者を務めた国産ロケット「H2A」の打ち上げに成功した。
2003.10 NASDAと宇宙科学研究所、航空宇宙技術研究所の機関統合によって発足した独立行政法人宇宙航空研究開発機構(JAXA:Japan Aerospace Exploration Agency)の初代理事長に就任。2004.11 退任。2005 日米間の宇宙協力関係への強化に努めた功績が評価され、NASAより栄誉賞を受けた。
主な著書に『世界鉄道の旅』(1981)、『ヨーロッパ鉄道四季暦』(1992)、『鉄道と情報システム』(1998)、『鉄道とメンテナンス』(2000)、『東北・上越新幹線』(2002)、『安全へのアプローチ』(2003)、『新幹線がなかったら』(2004)、『なぜ起こる鉄道事故』(2005)、『世界鉄道めぐり」歴史と芸術を訪ねて』(2007)、『JRはなぜ変われたか』(2008)などがある。
JAXA退任後、JR東日本の顧問として復帰したが、3年後に心不全により逝去。享年75歳。都内のホテルでお別れ会が執り行われ、約1500人が参列した。海上の別室には「ヤマシュウさん」と親しまれた山之内の国鉄、JR東日本、JAXAでの功績や趣味の山歩き、ドライブなどのパネルが掲げられた。また「生まれ変わったら同じ仕事をするかと言われたら『もう嫌』。だが、今のかみさんとはまた出会いたい」と答えた新聞のインタビュー記事も紹介された。