在西晉時期，有這樣一個将軍，他病逝的消息傳到敵方東吳陣營後，東吳前線的軍士也都忍不住流下眼淚。東吳的百姓為了紀念這個将軍，特地在他生前喜歡遊憩的岘山刻下石碑、建起廟宇，按照時節進行祭祀。這個将軍就是羊祜。
羊祜，字叔子，泰山南城（今山東費縣西南）人，出身于漢魏名門士族之家，往前數九代人，羊氏都有人出任二千石以上的官職。羊祜姐姐嫁給了司馬懿之子司馬師，而他本人迎娶的是曹魏皇室成員夏侯霸的女兒。羊祜青年時期，曹氏集團和司馬氏集團正為争奪最高權力而角逐。羊祜與鬥争雙方都有姻親關系，身處夾縫中，在形勢尚未明朗前，他采取了回避态度，不選邊站隊。是以，他多次回絕州郡政府的征辟。
公元239年，魏明帝曹睿去世，八歲的曹芳繼位。輔政大臣曹爽和司馬懿的明争暗鬥趨于白熱化。先是曹氏集團占上風，控制實權。老謀深算的司馬懿假裝生病，閉門不出。而實際則在暗中布置，準備反攻。彼時羊祜判斷曹爽雖然一時得勢，但不是司馬懿的對手，是以仍舊拒絕出仕。果然，公元249年，司馬懿發動高平陵之變，殺了曹爽，奪取了軍政大權。
司馬昭掌權時期，羊祜再一次受到征辟。這次他接受了，被任命為中書侍郎等職務，後來逐漸成為司馬氏集團的重要成員。司馬炎稱帝後，羊祜再次受到封賞、升職。公元269年，司馬炎調任羊祜為荊州諸軍都督，鎮守襄陽（湖北襄樊），準備平吳戰事。在這裡，羊祜的才能得到了充分發揮。
羊祜到任後，發現荊州防務問題重重，這裡百姓生活不安定，軍糧也不足。于是他下發指令，要求部下将領不得擾民，并采取開辦學校、允許晉吳邊民來往自由等措施消除邊害。另外羊祜把軍隊分成兩部分，一部執行巡邏戍守任務，一部墾田。當年，全軍墾田八百頃，年底收獲的糧食足夠十年軍糧。羊祜的的舉措得到司馬炎認可。司馬炎取消江北所有都督建制，讓羊祜負責漢東江夏地區所有軍隊。
公元270年，東吳派陸抗負責荊州防務。陸抗也是很有能力的軍事家。羊祜一邊整軍備戰，一邊請求朝廷整備水軍，并推薦了老将王濬。泰始八年，東吳西陵守将叛變。陸抗立即派兵攻打西陵。司馬炎指令羊祜救援西陵。結果羊祜救援失敗，西陵被陸抗攻破。羊祜是以被貶為平南将軍。
西陵救援失利後，羊祜意識到平吳戰事不能操之過急。于是采取軍事蠶食和提倡信義兩方面政策。羊祜派兵占據了荊州以東的戰略要地，先後建立五座城池，把石城以西的土地都納入西晉的版圖之中。在邊界地區，對孫吳的百姓與軍隊講究信義。每當發生軍事沖突，羊祜都預先與對方商定交戰的時間，從不搞突然襲擊。對于主張偷襲的部将，羊祜用酒将他們灌醉，不許他們再說。有一次，部下從邊界抓到吳軍兩位将領的孩子。他知道後，馬上指令将孩子送回。羊祜經常釋放被俘的敵将，對戰死的吳人也厚禮殡斂，送交對方。行軍路過吳國邊境，如果晉軍使用當地的糧草，他都要下屬按數作價給予賠償。打獵的時候，羊祜限制部下，不許超越邊界線。凡是被吳人射殺的禽獸，他都送還對方。對于投奔西晉的吳軍将領，羊祜更是格外優待。這一系列措施後，吳人對羊祜心悅誠服，都叫他“羊公”。
陸抗對羊祜這一套收買人心的措施，毫無辦法，隻好告誡部下說：“羊祜專門做好事，如果我們專門幹不好的事，這不等于說，不用打仗，我們就讓人家制服了嗎？現在，我們隻要守好邊界就行了，千萬不能光想占對方的小便宜。”是以，在很長的一段時間裡，晉吳兩國的荊州邊線處于和平狀态。
羊祜病逝前，屢次向晉武帝上書伐吳計策，認為時機已經成熟，請求出戰。然而晉武帝猶豫不決。後來羊祜病情加重，晉武帝才後悔不疊，要羊祜帶病出征。羊祜此時卻無力征戰，便推薦了杜預接替自己。公元278年十一月，羊祜病逝，終年58歲。消息傳到荊州地區，襄陽城集市上的人莫不痛哭流涕，誰也無心做生意，隻好罷市。就連孫吳守邊将士聽到消息，也忍不住流下眼淚。當地的老百姓在羊祜生前喜歡遊憩的岘山，刻下石碑，建起廟宇，按時節祭祀。由于人們一看見石碑就要落淚，是以這塊碑又名“堕淚碑”。