東京出身。藤山コンツェルンを築いた藤山雷太(同墓)の長男として生まれる。弟に藤山コンツェルンの各代表等を務めた藤山勝彦、藤山洋吉、田中元彦がいる。
1918(T7)慶応義塾大学政治科を中退し、藤山コンツェルンの後継者として実業界に入り、'34(S9)大日本製糖(大日本明治精糖)社長、その後、日東化学工業(三菱レイヨン)、日東製紙、日本金銭登録機(日本NCR)の社長を歴任。
'41〜'46東京商工会議所・日本商工会議所会頭となる。敗戦後、公職追放されるが、'50解除後、'51〜'57日本商工会議所会頭再任、'52〜'57東京都共同募金会会長。
その他、初代日本航空会長、日本テレビ取締役などに就任して財界の勢力挽回をはかる。
'57戦前から資金援助をするなど親交があった岸信介が内閣組閣の際に、民間人であった愛一郎にまず通産大臣への就任の依頼をした。愛一郎は「産業界には知己が多すぎ、陳情攻めで大変だから」と言って通産大臣への就任を固辞。
結果、入閣を薦める岸に請われ、外務大臣に就任した。これは初の民間人閣僚として注目されるまた同時に日本商工会議所会頭をはじめとする202の経済界の要職を辞任した。
大臣を務めるにあたり、大日本製糖社員であった斎藤文夫(後に参議院議員)を秘書に採用。外務大臣としては日米安保条約改定をすすめ、日米地位協定制定に奔走。翌年の衆議院総選挙で自民党公認として神奈川県第1区から出馬し初当選(以後6回当選)。
第2次岸内閣では引き続き外務大臣を務めた。その後、池田内閣の経済企画庁長官、自民党総務会長を歴任。'65佐藤内閣の経済企画庁長官となり、日中国交回復に尽力した。
この間、首相への夢を抱き、3回自由民主党総裁選に挑戦をしている。'60.7.14池田勇人と争い敗北(3位49票)。この総裁選を機に岸派から分派して藤山派を結成。'64.7.10三度池田勇人と争うも敗北(3位72票)。
'66.12.1佐藤栄作と争うも敗北(2位89票)。最後まで首相の座に就くことはできなかった。巨額の資産を派閥維持の費用など権力闘争に投じた結果、藤山コンツェルンは解体されてしまう。
大日本製糖・日東化学は三菱グループが経営権を掌握、日本NCRは米NCRの企業傘下となった。このため、〈絹のハンカチを雑巾にする〉と評され、<最後の井戸塀政治家>などと言われた。
'67勲一等旭日大綬章を受章。'75政界引退を表明し、翌年の総裁選に出馬せず引退。政界引退後も、国際貿易促進協会会長を務めるなど日中国交回復に心血を注いだ。
財界にあるときから演劇・美術に深い理解を示して文化事業を後援し、自らも絵筆をとった。また中国近現代史料コレクションも多く所有していたが、'82ホテルニュージャパン火災でホテル内の事務所も巻き込まれコレクションは焼失してしまった。享年87歳。
妻は日本銀行総裁や大蔵大臣を務めた結城豊太郎の三女の久子(ひさこ)(同墓)。夫の愛一郎に懸命に尽くした人生を送る。長男の藤山覚一郎(同墓)は日本NCR株式会社常任監査役や大日本製糖社長などを歴任した実業家である。覚一郎は11代ヤマサ醤油社長の浜口儀兵衛の娘である朝子を娶った。