兵庫県西宮市出身。井上初太郞の子。叔父は血盟団事件で暗殺された蔵相の井上準之助(1869-1932)。
第一高等学校を経て、1930(S5)京都帝国大学文学部独文科卒業。同年、同人雑誌「KYU」第5号に最初の文芸評論『宿命と文学について』を発表した。
評論活動を本格的に行い、「誌と散文」や「麺麭」、北川冬彦(23-2-8-10)や神保光太郎らと同人誌「磁場」で文芸評論を書き継いだ。'32「磁場」第3号に『芥川龍之介と志賀直哉』を発表し歴史的文献として評価され新進批評家として注目された。
法政大学講師になるが、日本共産党に接近して、'35 治安維持法で検挙される。不起訴となったが講師の職を失職した。以降、文芸評論活動からは遠ざかった。'36 日本大学講師を務める。
精神的彷徨の時期、北川冬彦と同棲していた作家の仲町貞子(柴田奥津:同墓)と出会い、貞子の勧めでキリスト教に興味を抱く。またこの頃よりカール・バルトの著作物を読み始める。北川と別れた貞子に変わらず支え続けられ、'35頃から同棲を始め、貞子は13歳年上であったが、'38 結婚した。
'42秋より信濃町教会に出席するようになる。'44 福田正俊(同墓)牧師からシュザンヌの書簡集を渡される。書簡集に感銘を受け、洗礼を受ける決心がつきかねていた気持ちを洗ってくれたことで迷いが消える。'45.3 信濃町教会で福田正俊牧師から洗礼を受ける。受洗してまずしようと思ったことは、この書簡集の翻訳であったという。
戦後、'47 東京神学大学で専任講師となりドイツ語を教え、バルト神学の研究や翻訳を行う。'51 教授に就任。'71停年退官。この間、「福音と世界」の編集協力や、キリスト教の思想や社会問題に関する評論を書いた。また「キリスト者平和の会」の創立に尽力。日本基督教団社会委員長を歴任した。
著書に『主よ、われら誰に行かん』(1970)、『神の国の証人・ブルームハルト父子 待ちつつ急ぎつつ』(1982)、『汝ら時を知るゆえに』(1987)、『山上の説教 終末時を生きる』(1994)、『戦後教会史と共に 1950-1989』(1995)、『ヨハネ福音書を読む』(1998)、編著『地上を旅する神の民 バルト「和解論」の教会論』(1990)。梶木剛が文芸評論家時代に執筆したものを編集した『井上良雄評論集』(1972)がある。翻訳本も多数刊行しており、特にカール・バルト著の『教義学要綱』(1951)、『和解論』(1959)など多数刊行した。'85 第3回浅野順一賞を受賞。享年95歳。没後、雨宮栄一の著『評伝井上良雄─キリストの証人─』(2012)が刊行された。