江戸出身。幕臣で能生楽師の松井永世の次男として生まれる。幼名は松井信次郎。啓蒙的官僚学者で元老院議官を務めた政治家の神田孝平の養子となる。
1871(M4)森有礼に従って渡米し、アマースト大学に留学して教育学を学ぶ。1879帰国。
大学予備門の英語講師を経て、1887東京帝国大学文科大学教授となりラテン語を教えた。
1889外山正一、元良勇次郎らと共に、正則予備校を設立。1893東京高等師範学校教授、1899東京外国語学校初代校長、1902学習院教授を歴任。
この間、1898.7.4養父の神田孝平の功により男爵の爵位を授爵した。これにより、1910貴族院議員も兼ねる。
1912東京高等商業学校(のちの一橋大学)教授となり、英語教育に教授し、以後、名称を東京商科大学に変更後も大学の発展に尽くした。退官後は東京商科大学名誉教授。
明治後期に編纂した『English Grammar for Beginners』などの学校用文法書が広く用いられた。
『ユニオン』、『ロングマンス』、『三省堂 新訳英和辞典』、『袖珍英和辞典』、『熟語大辞典』、『コンサイス英和辭典』などの多くの英語辞典の編纂に携わり、『和文英訳教科書』、『英語読本説明書』、『小学英語読本』、『英作文』などの英語教科書などの著書がある。
ローマ字運動を起こし、速記術を広めるなどの功績もあり、わが国の英語教育の基礎づくり・発展に貢献した。
その他、日本キリスト教青年会(YMCA)の創立に協力。1921(T10)ワシントン軍縮会議に徳川全権の随員として渡航した。
享年66歳。子にアメリカ学者の高木八尺、言語・聖書学者の神田盾夫(同墓)がいる。