198年，鲁肃正在家中闲坐，突然被几百个壮汉包围。领头的是个美男子，他说自己叫周瑜，想跟鲁肃“借”点粮食！”鲁肃气定神闲，指着一个粮仓说：“里面有3000斛，你随便拿！”周瑜很震惊，心说对着我们这么多恶霸，他竟丝毫不惧，肯定不是一般人，遂主动与其结交。
不久后，为了躲避袁术的纠缠，鲁肃到居巢投奔了周瑜，并通过他结识了孙策。但鲁肃好像对孙策没什么好感，反而想去投靠一个叫郑宝的小军阀。周瑜表示强烈反对，为了让鲁肃死心，他自作主张的把人家母亲“接”到了吴郡，鲁肃只能一同前往。孙策死后，他成了孙权的一名幕僚。
一次喝酒时，孙权对鲁肃说，他想成为乱世中的齐桓公，鲁肃却告诉他：“在我看来，汉朝已经没救了，曹操也不是轻易能干得掉的。不如趁着群雄无暇南顾之时，消灭黄祖、进击刘表，尽占长江以南，成就一番帝业！”
孙权听了很爽，但仍然端着，假装听不懂鲁肃在讲什么。但私底下，他却对鲁肃却好的不行，经常重赏他钱粮布帛。当鲁肃遭到张昭等人的攻击时，孙权对他也多有回护。
208年，孙权击破夏口，斩杀了黄祖，接下来就要攻打荆州病重的刘表。曹操本不想这么快南征，结果被他这么一刺激，马上集结大军于南阳，准备攻打刘表。
鲁肃听说后，立即向孙权进言：“刘表新死，他的两个儿子却不和睦，如果刘备能搞得定这两个小辈，让他们同心协力，咱们就该与之结盟，共抗曹操；如果他们离心离德，咱们就另作打算。现在我先去荆州探一探虚实，不然就被曹操赶在前面了！”孙权马上批准。
然而，鲁肃刚走到南郡时，刘琮已经投降了曹操。鲁肃又紧急赶往当阳长阪，终于见到了一路南逃的刘皇叔。刘备当时正想去投奔苍梧太守吴巨，但鲁肃把孙权夸的跟朵花一样，劝他和江东联手抗曹。刘备动心，派诸葛亮随鲁肃前往柴桑会见孙权。
当时东吴的情况确实不容乐观，因为曹操已经下了战书，要跟孙权“会猎于吴”。由于实力相差太悬殊，孙权幕府中的投降派占了上风，张昭就是其中的代表。有一天开会，孙权被投降派们气的不行，起身就进了厕所。鲁肃赶紧追了进去，孙权抓住他的手说：“先生有什么话要说？”
鲁肃回答说：“那伙人私心太重，主公千万不能听他们的。您想想，我鲁肃要是投了降，大小都还有个官做，混吃等死一辈子不成问题。可主公您呢？让您放弃父兄的基业，做一辈子玉食囚徒，您乐意吗？”孙权当然不乐意，他就是死要拼一把！
于是，在刘备加盟，周瑜、鲁肃力挺，以及诸葛亮的不断刺激下，孙仲谋力排众议，誓要跟曹操死磕到底！可能是老天爷也被他感动，在兵力极其紧张的情况下，孙刘联军竟大破曹操于赤壁！
战后，孙权对鲁肃信任的无以复加，称他为“我让他的邓禹”。周瑜去世前， 更推荐鲁肃代替自己镇守江陵，并把自己手上的四千私兵和四个县都送给了鲁肃，让他成了东吴响当当的二号人物。但很快，鲁肃极力促成的孙刘联盟，便陷入了崩溃的边缘。
事情是这样的，赶走曹操后，孙权就打起了益州的主意，还问过刘备的态度。刘备说自己跟刘璋是同宗兄弟，不忍心看到他被吴军征伐，恳请孙权罢手，不然他就要披头散发的归隐山林。
可孙权刚同意不久，刘备就抢先一步入蜀夺了益州！孙权大骂刘备是“猾虏”，竟敢算计自己，然后马上要他归还荆州。刘备嘴上说：“等我拿下凉州便可归还荆州”，心中想的却是：我凭本事抢来的地盘，凭什么要还给你？“
孙权勃然大怒，立即派吕蒙袭取了长沙、桂阳二郡，进逼零陵。刘备闻变，亲率五万大军坐镇公安，命关羽夺回失地。孙权也移阵陆口，派鲁肃屯守益阳，对抗关羽。
为了挽救摇摇欲坠的孙刘联盟，鲁肃邀请关羽见面谈判。并提出：两个老大都把队伍布置在百步以外，参会的将军们只许携带一口单刀。关羽然之。
会上，鲁肃对关公提出了严厉的批评，他说：“当初你们败兵来投，我家主公不忍刘皇叔风餐露宿，这才把荆州借给你们，谁料你们得了益州，竟还不愿归还土地。我们退了一步，只要求你们归还三郡，可你们还不买账，这是何道理？”
鲁肃刚说完，关羽身边的一个军将突然叫道：“天下土地，仁者得知，说到土地，岂能给你们孙家占住不放！”鲁肃大怒：“我跟你老大说话，谁叫你插嘴的！”关羽脸上挂不住，也训斥道：“这是国家大事，你懂什么，还不下去！”
然而，虽然鲁肃口若悬河，可会议却没谈出什么结果，两边谁也不肯让步，战争一触即发。关键时刻，曹操突然出击汉中，刘备怕腹背受敌，紧急派人与孙权讲和。双方决定以湘水为界，平分荆州：江夏、长沙、桂阳归孙权，南郡、武陵、零陵归刘备。双方罢兵，史称“湘水划界”。
事后，吕蒙仍想消灭项羽。鲁肃却认为，大敌曹操当前，孙刘两家应同仇敌忾，切不可因小利而坏了大局。孙权合计了一阵子后，最终采纳了鲁肃的建议，却也没有否认吕蒙的主张。这就为日后袭杀关羽埋下了伏笔。
217年，鲁肃病逝，年仅46岁。孙权不胜悲痛，亲为举办丧事，并亲自参加了他的葬礼。诸葛亮听说后，也在益州为他举哀。
