名古屋出身。本籍は山口県萩市。桜井祥造の二男として生まれる。愛知第四中学校、名古屋陸軍地方幼年学校(22期)、陸軍中央幼年学校を経て、1911.5.27(M44)陸軍士官学校卒業(23期)。
同期に、小畑英良(後に大将)、伊佐一男(後に中将:4-1-23)、岡田資(後に中将)、落合忠吉(後に中将:16-1-7)、宝蔵寺久雄(後に中将:9-1-19-11)、飯野賢十(後に少将:21-1-20-8)、西原八三郎(のち少将:22-1-79)、山之内二郎(後に少将:12-1-2)らがいる。同.12.26歩兵少尉に任官し、歩兵第53聯隊附となる。
'14.12.15(T3)歩兵中尉となり、'15.9参謀本部附勤務を経て、'19.11.26陸軍大学校を優等で卒業(31期)。'20.8.23大尉に昇進し参謀本部附勤務。'21.4参謀本部部員(船舶班)、'24.5参謀本部附、同.9陸軍省軍務局に異動し、'26.12まで仏国駐在、この間に少佐となる。
'27.3(S2)参謀本部部員、'28.12歩兵第41聯隊大隊長、'29.12.10参謀本部運輸課船舶班長、'30.8.1中佐となって、同.9.11陸軍大学校教官を兼務した。
'34.8.1大佐に進み歩兵第77聯隊長、'36.8.1内閣調査局調査官、'37.5.13企画庁調査官、同.8.18第14碇泊場司令官、同.9.20企画院調査官、同.12.1第1船舶輸送司令部附を歴任し、'38.3.1少将に昇進、陸軍運輸部附(中支那碇泊場監)を務めた。
同.7.15第22歩兵団長、'39.5.19中支那派遣軍司令部附、同.9.4第13軍参謀長を経て、'40.12.2中将に累進。'41.1.20第33師団長に親補した。この時に大東亜戦争で第28軍はビルマ西南部約400キロ正面の地域を担当し、同方面の英印軍を撃破駆逐し、持久を策していた。
しかしビルマ方面軍の主戦場方面の戦いが不利となったので、桜井は大局的判断から二個師団を方面軍に提供した。連合軍の攻撃は急で、方面軍主力は敗退の苦闘を続けた。取り残された三万の第28軍は、ペグー山系の密林内で周到な準備を整え、7月下旬、10万の英軍包囲網を突破し、シッタン河を渡り、見事に危地を脱した。
様々なビルマでの功績により『ビルマの名将』として称された。'42.8エナンジョンに戦勝記念碑を建てたが、同時に英印軍の『無名戦士の碑』も建て戦没した敵兵の霊を弔った。これが戦後に捕虜となった桜井が英軍から優遇された理由の一つとなる。
'43.3.11陸軍機甲本部長 兼 大本営陸軍幕僚附、'44.1.7第28軍司令官に補され、翌年終戦を迎えた。功三級金鵄勲章。'45.10.22ラングーンに出頭、同地収容所へ収容される。同.12インセン収容所移送された。
復員をビルマで待ちながら詠った歌:
『なきがらは ビルマの山に 草むすも みたまはかえれ 靖国の杜』
'46.4.12ビルマ北地区日本軍行政司令官、'47.6.19引揚船「筑紫丸」で宇品港に帰国し、復員。戦後は「戦争で人生のすべてを使い果たしたこれからは清貧に甘んじて余生を送る」と言い、一切の公職、名誉職に就かず極めて質素な生活を送った。享年96歳。
没後に、福富繁の著作の伝記『追悼軍司令官桜井省三』(1986)、上条彰の著作の『ビルマの名将・桜井省三―泥まみれの将帥 その生きざまの記録』(1992)が刊行された。