岡山県苫田郡津山町(津山市)出身。津山藩士の北郷直衛の3男として生まれる。同藩士の尾上動の養子となった。旧姓は北郷。本名は尾上八郎。号を柴舟(さいしゅう)として書人として語られるが、文学では歌人柴舟(しばふね)として位置づけられている。
1890(M23)鶴山高等小学校卒業。直 頼高(じく よりたか)に師事して、和歌の手ほどきを受ける。父の転勤で兵庫県龍野への移住を経て、東京府尋常中学校を経て、一高に入る。書を大口鯛二に学び、1893(M26) 落合直文に師事して彼が主宰した「あさ香社」に入り歌を学ぶ。
1901 東京帝国大学文科大学卒業。翌年より哲学館(東洋大学)講師、東京女子高等師範学校(お茶の水大学)講師として教壇に立つ。早稲田大学高等師範部教授などを経て、1908女子学習院教授となる。
この間、1899短歌結社「いかづち会」を起こす。1901『ハイネの詩』を翻訳刊行。'02金子薫園と共に『叙景詩』を出版、明星派の浪漫主義に対して自然主義文学の叙景詩運動を進めた。'05「車前草社」(しやぜんそうしや)を結成、作歌につとめる。ここから前田夕暮(12-1-10-21)や若山牧水らを育てた。'10『短歌滅亡私論』は大きな話題を呼び、口語短歌も含めた大正から昭和初期の短歌改革の前哨戦となった。
'14岩谷莫哀(2-1-2-19)、石井直三郎らと歌誌「水甕」(みずがめ)を創刊、主宰する。岩谷莫哀は短歌の弟子である。主な歌集に『銀鈴』(1904)、『静夜』(1907)、『永日』(1909)、『日記の端より』(1913)、『白き路』(1914)、『空の色』(1919)、『間歩集』(1930)などがある。
書家としては古筆の理論的研究と実作に努力し、上代様(じょうだいよう)を再興普及、『粘葉本 (でっちょうぼん) 朗詠集』を基礎とする書風で仮名書道界に大きな地位を築いた。『歌と草仮名』(1925)、『平安朝時代の草仮名の研究』(1926)などの書論もあり、平安時代の草仮名の研究に業績を挙げた。
'23(T12)文学博士。'37(S12)書家として帝国芸術院会員に推され、日展書道部審査員となる。'39.4.13 勲2等瑞宝章受章。'46東京女子高等師範名誉教授。'49歌会始選者となる。'57.1.6 歌会始から帰宅途中に意識不明となり、同.1.13 流行性感冒(インフルエンザ)に狭心症を併発して東京文京区白山の自宅で逝去。享年80歳。