198年，魯肅正在家中閑坐，突然被幾百個壯漢包圍。領頭的是個美男子，他說自己叫周瑜，想跟魯肅“借”點糧食！”魯肅氣定神閑，指着一個糧倉說：“裡面有3000斛，你随便拿！”周瑜很震驚，心說對着我們這麼多惡霸，他竟絲毫不懼，肯定不是一般人，遂主動與其結交。
不久後，為了躲避袁術的糾纏，魯肅到居巢投奔了周瑜，并通過他結識了孫策。但魯肅好像對孫策沒什麼好感，反而想去投靠一個叫鄭寶的小軍閥。周瑜表示強烈反對，為了讓魯肅死心，他自作主張的把人家母親“接”到了吳郡，魯肅隻能一同前往。孫策死後，他成了孫權的一名幕僚。
一次喝酒時，孫權對魯肅說，他想成為亂世中的齊桓公，魯肅卻告訴他：“在我看來，漢朝已經沒救了，曹操也不是輕易能幹得掉的。不如趁着群雄無暇南顧之時，消滅黃祖、進擊劉表，盡占長江以南，成就一番帝業！”
孫權聽了很爽，但仍然端着，假裝聽不懂魯肅在講什麼。但私底下，他卻對魯肅卻好的不行，經常重賞他錢糧布帛。當魯肅遭到張昭等人的攻擊時，孫權對他也多有回護。
208年，孫權擊破夏口，斬殺了黃祖，接下來就要攻打荊州病重的劉表。曹操本不想這麼快南征，結果被他這麼一刺激，馬上集結大軍于南陽，準備攻打劉表。
魯肅聽說後，立即向孫權進言：“劉表新死，他的兩個兒子卻不和睦，如果劉備能搞得定這兩個小輩，讓他們同心協力，咱們就該與之結盟，共抗曹操；如果他們離心離德，咱們就另作打算。現在我先去荊州探一探虛實，不然就被曹操趕在前面了！”孫權馬上準許。
然而，魯肅剛走到南郡時，劉琮已經投降了曹操。魯肅又緊急趕往當陽長阪，終于見到了一路南逃的劉皇叔。劉備當時正想去投奔蒼梧太守吳巨，但魯肅把孫權誇的跟朵花一樣，勸他和江東聯手抗曹。劉備動心，派諸葛亮随魯肅前往柴桑會見孫權。
當時東吳的情況确實不容樂觀，因為曹操已經下了戰書，要跟孫權“會獵于吳”。由于實力相差太懸殊，孫權幕府中的投降派占了上風，張昭就是其中的代表。有一天開會，孫權被投降派們氣的不行，起身就進了廁所。魯肅趕緊追了進去，孫權抓住他的手說：“先生有什麼話要說？”
魯肅回答說：“那夥人私心太重，主公千萬不能聽他們的。您想想，我魯肅要是投了降，大小都還有個官做，混吃等死一輩子不成問題。可主公您呢？讓您放棄父兄的基業，做一輩子玉食囚徒，您樂意嗎？”孫權當然不樂意，他就是死要拼一把！
于是，在劉備加盟，周瑜、魯肅力挺，以及諸葛亮的不斷刺激下，孫仲謀力排衆議，誓要跟曹操死磕到底！可能是老天爺也被他感動，在兵力極其緊張的情況下，孫劉聯軍竟大破曹操于赤壁！
戰後，孫權對魯肅信任的無以複加，稱他為“我讓他的鄧禹”。周瑜去世前， 更推薦魯肅代替自己鎮守江陵，并把自己手上的四千私兵和四個縣都送給了魯肅，讓他成了東吳響當當的二号人物。但很快，魯肅極力促成的孫劉聯盟，便陷入了崩潰的邊緣。
事情是這樣的，趕走曹操後，孫權就打起了益州的主意，還問過劉備的态度。劉備說自己跟劉璋是同宗兄弟，不忍心看到他被吳軍征伐，懇請孫權罷手，不然他就要披頭散發的歸隐山林。
可孫權剛同意不久，劉備就搶先一步入蜀奪了益州！孫權大罵劉備是“猾虜”，竟敢算計自己，然後馬上要他歸還荊州。劉備嘴上說：“等我拿下涼州便可歸還荊州”，心中想的卻是：我憑本事搶來的地盤，憑什麼要還給你？“
孫權勃然大怒，立即派呂蒙襲取了長沙、桂陽二郡，進逼零陵。劉備聞變，親率五萬大軍坐鎮公安，命關羽奪回失地。孫權也移陣陸口，派魯肅屯守益陽，對抗關羽。
為了挽救搖搖欲墜的孫劉聯盟，魯肅邀請關羽見面談判。并提出：兩個老大都把隊伍布置在百步以外，參會的将軍們隻許攜帶一口單刀。關羽然之。
會上，魯肅對關公提出了嚴厲的批評，他說：“當初你們敗兵來投，我家主公不忍劉皇叔風餐露宿，這才把荊州借給你們，誰料你們得了益州，竟還不願歸還土地。我們退了一步，隻要求你們歸還三郡，可你們還不買賬，這是何道理？”
魯肅剛說完，關羽身邊的一個軍将突然叫道：“天下土地，仁者得知，說到土地，豈能給你們孫家占住不放！”魯肅大怒：“我跟你老大說話，誰叫你插嘴的！”關羽臉上挂不住，也訓斥道：“這是國家大事，你懂什麼，還不下去！”
然而，雖然魯肅口若懸河，可會議卻沒談出什麼結果，兩邊誰也不肯讓步，戰争一觸即發。關鍵時刻，曹操突然出擊漢中，劉備怕腹背受敵，緊急派人與孫權講和。雙方決定以湘水為界，平分荊州：江夏、長沙、桂陽歸孫權，南郡、武陵、零陵歸劉備。雙方罷兵，史稱“湘水劃界”。
事後，呂蒙仍想消滅項羽。魯肅卻認為，大敵曹操目前，孫劉兩家應同仇敵忾，切不可因小利而壞了大局。孫權合計了一陣子後，最終采納了魯肅的建議，卻也沒有否認呂蒙的主張。這就為日後襲殺關羽埋下了伏筆。
217年，魯肅病逝，年僅46歲。孫權不勝悲痛，親為舉辦喪事，并親自參加了他的葬禮。諸葛亮聽說後，也在益州為他舉哀。
