埼玉県本庄出身。清野仙三郎の二男。1883(M16)竹越藤平の養嗣子となった。号は三叉。竹越三叉(たけこし さんさ)として多くの著作残す。與三郎は「与三郎」とも表記する。
慶応義塾中退後言論界に入り、大阪公論、時事新報、国民新聞各記者を歴職、この間『新日本史』『二千五百年史』を著して陸奥宗光、西園寺公望(8-1-1-16)の知遇を受け、1896雑誌『世界之日本』主筆となった。
1898伊藤内閣の西園寺文相の下に文部省勅任参事官となり、翌年渡欧して各国を視察した。
1902以来、衆議院議員に当選五回、立憲政友党に属し、1922(T11)宮内省の臨時帝室編修局御用掛、同編修官長、翌年には貴族院議員、1940(S15)枢密顧問官に任ぜられた。
この間、1915(T4)以後本野一郎、池田成彬らと日本経済史編纂会を起し、1919『日本経済史』八巻を刊行、以後の日本経済史学確立の一礎石となった。
徳富蘇峰(6-1-8-13)、山路愛山らとも親交があり、終始在野精神を堅持し、わが国民間史学の一系譜をなした。ほかに『台湾統治史』『陶庵公』などの著書がある。婦人運動家である竹越竹代は妻である。
*墓石は和型「竹越家之墓」。墓誌があり、竹越竹代から刻みが始まる。
*與三郎と竹代の間には4男1女。長男の竹越虎之助(1893-1977.10.17:同墓)はロックフェラー研究所を経て、星製薬製薬部長、藤田製薬、日本糊料取締役、日本CMC社長を務めた実業家。虎之助の妻は梅子(三井物産取締役の林徳太郎の長女:H9.1.24歿:同墓)。二男の竹越熊三郎(1895-1997.1.24:同墓)は三菱鉱業取締役、三菱金属鉱業常務、千歳鉱山社長を務めた実業家。熊三郎の妻は明子(外交官の山中千之の長女:1903.2-1972.9.29:同墓)。三男の鵠四郎は伊藤ふぢ子と結婚し婿養子に入り伊藤鵠四郎となる。四男は竹越龍五郎。長女の北見は三菱重工業社長の元良信太郎に嫁いだ。
*同墓に眠る竹越起一(1924-2017.11.10)は竹越與三郎の孫、竹越熊三郎・明子の長男。母の明子(1903.2-1972.9.29)は日本公使館に勤めた山中千之の長女であるため、母方祖父は山中千之で、弟の晋次は山中千之の養子となった。また山中千之の母のサタは子爵の珍田捨巳の長女であるため、曾孫にあたる。起一は東京工科大学卒業後、古河アルミニウム工業(株)技術部長や徳富蘇峰記念塩崎財団3代目理事長を歴任した。