熊本県出身。細川侯爵家に仕えた書家の大塚惟一の長男として生まれる。銀行家の杉原惟敬は叔父。'26(T15)家督を継ぐ。
五高を経て、1909(M42)東京帝国大学法科大学政治科を卒業。文官高等試験に合格し、'10 内務省に入省。愛知県属となり同試補、警視庁方面警察同総監官房主事、德島、宮城、神奈川各県警察部長を歴任。'19(T8)欧米各国に於ける戦時地方状況調査嘱託となり、欧米各国に出張す。'21帰朝し、内務書記官 兼 内務省参事官に任じ、外務書記官農商務書記官を兼ねた。'23国際警察会議に列席するために米国に出張。年末に帰朝し、同.12 内務監察官に任ぜられた。
'24.6.13(T13)第19代栃木県知事〔任期:1924.6.13-1926.9.28〕に抜擢される。着任してぶつかった問題に商品陳列館建設問題がある。大塚は商品陳列館の建設よりも第二高女建設を急ぐべきと考えていた。
'26.9.28 第21代福岡県知事〔任期:1926.9.28-1927.5.16〕に就任。在任わずか7カ月で転任を命ぜられ、'27.5.17(S2)石川県知事〔任期:1927.5.17-5.18〕を任ぜられたが、翌日に赴任せずして辞職し、内務省を退官した。
'29 二年後、内務省警保局長にて現場復帰。'31からは貴族院議員に勅選された。'42陸軍司政長官となり第16軍軍政顧問としてジャワ赴任した。
'45.4.21 第41代広島県知事〔任期:1945.4.21-6.10〕に就任。軍需省軍需官と海運局長も兼務。同.6.10 本土決戦に備えた行政機構再編の一環として地方総監府が設置され、広島県知事であった大塚が中国地方総監に就任した。それに伴い、後任の広島県知事は高野源進(15-1-9)が就いた。しかし、同.8.6 在任中に原爆投下により、爆心地からすぐの官舎で被爆死した。従3位 勲1等。享年60歳。
なお、同じく被爆死したのは広島市長の粟屋仙吉。県知事であった高野源進は出張先の福山におり助かり、直ちに広島市内に戻り比治山多聞院に「広島県防空本部(県庁)」を開庁。救護活動の調整や食糧放出などの対策が進められた。