吾彥，字士則初任通江縣吏，出身貧寒低微，有文武才幹，身高八尺，能徒手與猛獸搏鬥，體力超群。
後來，吾彥擔任大司馬陸抗的下級武官。陸抗欣賞吾彥的勇氣和謀略，打算提拔重用他。但顧慮衆将不服，于是會集衆多将領，暗中派人裝瘋拔刀闖進來，座上的衆将都恐懼逃跑，惟獨吾彥不動聲色，舉起小桌幾抵擋那人，衆人都佩服他的勇敢，陸抗于是就提升重用他。
吾彥升遷至建平太守時，西晉益州刺史王浚奉命在蜀地建造戰船，準備攻打吳國。吾彥發覺這一動向，請求朝廷增加兵力防備建平，但吳國皇帝孫皓不聽。吾彥于是就制造鐵鎖鍊，橫鎖長江斷絕水路，用以阻止西晉戰船東進。
不久，晉軍攻滅吳國。吳國滅亡後，吾彥歸降西晉，晉武帝司馬炎任命他為金城太守。後來改任敦煌太守，吾彥威名恩德非常顯著。後吾彥升任為雁門太守。當時順陽王司馬暢驕傲放縱，前後任内史的都被他捏造罪名陷害。等到吾彥擔任順陽内史時，以自身清正作為下屬的表率，嚴格肅整刑罰，令衆人都畏懼他。而司馬暢不能誣陷他，反而舉薦他，希望盡快将他送走。後升任員外散騎常侍。
交州刺史陶璜死後，吾彥出任南中都督、交州刺史。 當時九真郡的戍兵作亂，驅逐九真太守，叛軍首領趙祉又圍困郡城；吾彥上任後領兵将叛軍一一平定。吾彥後來擔任交州太守二十多年，威名恩德顯著，南方州郡安甯平定。自己上表請求朝廷派人接替他，于是朝廷征召他入朝擔任大長秋。吾彥最終在任内逝世。