在西晋时期，有这样一个将军，他病逝的消息传到敌方东吴阵营后，东吴前线的军士也都忍不住流下眼泪。东吴的百姓为了纪念这个将军，特地在他生前喜欢游憩的岘山刻下石碑、建起庙宇，按照时节进行祭祀。这个将军就是羊祜。
羊祜，字叔子，泰山南城（今山东费县西南）人，出身于汉魏名门士族之家，往前数九代人，羊氏都有人出任二千石以上的官职。羊祜姐姐嫁给了司马懿之子司马师，而他本人迎娶的是曹魏皇室成员夏侯霸的女儿。羊祜青年时期，曹氏集团和司马氏集团正为争夺最高权力而角逐。羊祜与斗争双方都有姻亲关系，身处夹缝中，在形势尚未明朗前，他采取了回避态度，不选边站队。因此，他多次回绝州郡政府的征辟。
公元239年，魏明帝曹睿去世，八岁的曹芳继位。辅政大臣曹爽和司马懿的明争暗斗趋于白热化。先是曹氏集团占上风，控制实权。老谋深算的司马懿假装生病，闭门不出。而实际则在暗中布置，准备反攻。彼时羊祜判断曹爽虽然一时得势，但不是司马懿的对手，所以仍旧拒绝出仕。果然，公元249年，司马懿发动高平陵之变，杀了曹爽，夺取了军政大权。
司马昭掌权时期，羊祜再一次受到征辟。这次他接受了，被任命为中书侍郎等职务，后来逐步成为司马氏集团的重要成员。司马炎称帝后，羊祜再次受到封赏、升职。公元269年，司马炎调任羊祜为荆州诸军都督，镇守襄阳（湖北襄樊），准备平吴战事。在这里，羊祜的才能得到了充分发挥。
羊祜到任后，发现荆州防务问题重重，这里百姓生活不安定，军粮也不足。于是他下发命令，要求部下将领不得扰民，并采取开办学校、允许晋吴边民来往自由等措施消除边害。另外羊祜把军队分成两部分，一部执行巡逻戍守任务，一部垦田。当年，全军垦田八百顷，年底收获的粮食足够十年军粮。羊祜的的举措得到司马炎认可。司马炎取消江北所有都督建制，让羊祜负责汉东江夏地区所有军队。
公元270年，东吴派陆抗负责荆州防务。陆抗也是很有能力的军事家。羊祜一边整军备战，一边请求朝廷整备水军，并推荐了老将王濬。泰始八年，东吴西陵守将叛变。陆抗立即派兵攻打西陵。司马炎命令羊祜救援西陵。结果羊祜救援失败，西陵被陆抗攻破。羊祜因此被贬为平南将军。
西陵救援失利后，羊祜意识到平吴战事不能操之过急。于是采取军事蚕食和提倡信义两方面策略。羊祜派兵占据了荆州以东的战略要地，先后建立五座城池，把石城以西的土地都纳入西晋的版图之中。在边界地区，对孙吴的百姓与军队讲究信义。每当发生军事冲突，羊祜都预先与对方商定交战的时间，从不搞突然袭击。对于主张偷袭的部将，羊祜用酒将他们灌醉，不许他们再说。有一次，部下从边界抓到吴军两位将领的孩子。他知道后，马上命令将孩子送回。羊祜经常释放被俘的敌将，对战死的吴人也厚礼殡敛，送交对方。行军路过吴国边境，如果晋军使用当地的粮草，他都要下属按数作价给予赔偿。打猎的时候，羊祜约束部下，不许超越边界线。凡是被吴人射杀的禽兽，他都送还对方。对于投奔西晋的吴军将领，羊祜更是格外优待。这一系列措施后，吴人对羊祜心悦诚服，都叫他“羊公”。
陆抗对羊祜这一套收买人心的措施，毫无办法，只好告诫部下说：“羊祜专门做好事，如果我们专门干不好的事，这不等于说，不用打仗，我们就让人家制服了吗？现在，我们只要守好边界就行了，千万不能光想占对方的小便宜。”因此，在很长的一段时间里，晋吴两国的荆州边线处于和平状态。
羊祜病逝前，屡次向晋武帝上书伐吴计策，认为时机已经成熟，请求出战。然而晋武帝犹豫不决。后来羊祜病情加重，晋武帝才后悔不迭，要羊祜带病出征。羊祜此时却无力征战，便推荐了杜预接替自己。公元278年十一月，羊祜病逝，终年58岁。消息传到荆州地区，襄阳城集市上的人莫不痛哭流涕，谁也无心做生意，只好罢市。就连孙吴守边将士听到消息，也忍不住流下眼泪。当地的老百姓在羊祜生前喜欢游憩的岘山，刻下石碑，建起庙宇，按时节祭祀。由于人们一看见石碑就要落泪，所以这块碑又名“堕泪碑”。