東京出身。父は美術史界の先覚者と称された関野貞、きよ(共に同墓)の長男。弟の関野雄は考古学者。叔父の関野長(同墓)は実業家。
旧制浦和高等学校理科甲類を経て、1933(S8)東京帝国大学工学部建築学科卒業。当初は建築デザインに興味を抱くが、大学院に進学すると建築史を専攻し、日本の住宅史研究に力を注ぎ「日本古代住居址の研究」を皮切りに、古代・中世の住宅建築に関する調査・研究に優れた業績をあげた。
'35 東京美術学校の非常勤講師を務める。'37 足立康、福山敏男、太田博太郎らとともに建築史研究会を結成。関野は会の基本的性格であった文献実証主義に立脚して日本住宅史の研究のひとつ「正倉院文書」にもとづく奈良時代の藤原豊成殿の復元などを含む「古文書による奈良時代住宅建築の研究」により第一回建築学会賞を受賞。
'38 大学院博士課程を満期退学し、'40 東京帝国大学助教授となり、'41 同学第二工学部設立準備委員会常務幹事を経て、翌年より新設された第二工学部勤務となる。'42 わが国における住宅史建築のはじめての通史となる『日本住宅小史』を刊行。原始時代から同時代のモダニズム住宅までの流れを整理した。
しかし、太平洋戦争中であったため、'43.12 応召。戦争末期には松代大本営の賢所の工事に関与。'45.9 終戦後応召解除となり、同時期に「日本住宅建築の源流と都城住宅の成立」により工学博士。
'46 東京帝国大学第二工学部教授に就任。'47 弥生時代後期の遺跡である登呂(とろ)遺跡の発掘が始まると遺構と出土木材をもとに、上屋(うわや:建築の地上部分)の復元を担当。登呂遺跡の竪穴式住居部材の発掘を機に、日本ではじめての古代住宅の復元となる登呂遺跡竪穴式住居復元を行う。これはわが国において太古の住居イメージを実証的に提示したものであり、教科書や各種出版物で流布し、原始住居の一般的なイメージを形作った。これにより日本で考古学ブームが興った。登呂遺跡の経験を踏まえた『登呂遺跡と建築史の反省』では、従来の様式中心の建築史のありかたを批判し、技術史研究の必要性を主張した。また「様式史は建築の墓場となるだらう」と述べ、論議を呼んだ。
'49 東京大学第二工学部の生産技術研究所への改組にともない、建築・土木の講座の担当教授になった。これにより、日本の木工技術の研究に着手する。また、幕末の洋館や工場建築の実測調査を組織的に行ない、日本近代建築の実証的研究に先鞭をつけた。同時期に幕末から第二次世界大戦終結までを扱った最初の建築通史を執筆。
一方、法隆寺金堂炎上(1949)により貴重な文化財を保存することへの意識が高まる中、文化財保護委員会事務局が設置(1950)され、建造物課初代課長に任ぜられた。以後、建築史学の調査研究と文化財の保存との両分野にわたって活躍した。
'52.4 東京国立文化財研究所保存科学部長も兼務。'57.4 文化財専門審議会専門委員(〜'61.8)、'60 宮内庁宮殿造営顧問(〜'68.11)。法隆寺、鎌倉の大仏、姫路城、松本城など大型建造物の修復や解体修理などに従事。中尊寺金色堂保存施設調査委員長、醍醐寺五重塔板絵保存など数多くの事業を指揮して、保存修復体制の近代化を進めた。
'65 東京国立文化財研究所所長。'69.3 東京大学を停年退官し、名誉教授。'70 財団法人万博協会美術展示委員、'72 高松塚古墳保存対策調査委員となり、古墳壁画の保存指導に尽力。'73 腐朽木材に科学的処置を加えて耐用化し、再使用することによる古建築復元など、国宝・重要文化財の調査にガンマ線を用い文化財の保存科学に画期的な方法を確立した。これにより日本建築学会賞を受賞(2回目)。'78 東京国立文化財研究所を退任し、博物館明治村館長に就任した(〜'91)。
'79 勲2等瑞宝章受章。'86 文化財保護に関する国際交流の尽力により日本建築学会大賞受賞。'89(H1)イコモス(国際記念物遺跡会議)国内委員会設立の業績により、イコモスよりピエロ・カゾーラ賞を授与された。'90 長年にわたる国宝・重要文化財建造物の修理、復元の功績、文化財保護、人材育成などの功績により文化功労者。同年、日本博物館協会副会長。肺炎のため逝去。享年91歳。