吕调阳自幼聪明好学,6岁便离家读书。嘉靖十三年(1534),18岁的吕调阳乡试中举。嘉靖二十九年(1550),高中榜眼,授翰林编修。嘉靖三十五年(1556)出任会试分校官。父母相继去世,吕调阳回乡守丧。
直至嘉靖四十二年(1563)吕调阳才重回翰林,任国子监司业。隆庆年间,吕调阳先后出任南北两京国子监祭酒。因其曾从师于国子监祭酒、阳明学派学者“永康学”的代表程文德,遂以永康之学教授诸生。他在任时,重视道德教育,抛弃传统的注入式,代之以启发式,并以身作则。后又升任南京礼部侍郎。隆庆五年(1570)充会试考官。
万历元年(1573),受张居正的举荐,吕调阳以礼部尚书兼文渊阁大学士入内阁参预机务,协助*辅张居正进行改革,以稳重不争受到神宗的器重。先后加官晋衔,直到他去世,官衔已为光禄大夫、柱国、少傅兼太子太傅、吏部尚书、建极殿大学士。赠太保,谥文简。