當時在西晉和東吳邊界，東吳築了一座要塞，叫做石城（湖北鍾祥），這個地方三面被漢江包圍，而且背靠大山，絕對是個易守難攻的軍事要塞。而且，石城離襄陽才一百多公里，東吳軍隊一天之內就能打一個往返，只要這個堡壘存在，羊祜就不能安心的種田，爲了防止東吳騷擾自己的種田計劃，羊祜想辦法讓東吳軍隊自己放棄了石城，然後自己佔據了這裡，一連修建了五個軍事要塞，牢牢卡住了這個東吳從荊州進攻的咽喉要道。從此以後，石城以西再也見不到東吳軍隊，羊祜成功的壓制了東吳帝國的攻勢，挽回了西陵大敗的顏面，同時也讓更多的東吳人意識到，西晉雖然失敗過一次，但是它的實力仍然是壓倒性的，它輸得起。
在絕對優勢的震懾下，羊祜開始大肆收買東吳人心。凡是他的部隊經過邊境的時候，只要在吳國境內割了吳國百姓的糧食，全都記下數量，然後按照當時的市價，摺合成絲綢布匹再送給東吳。羊祜每次與部下在邊境打獵，從來不超過邊境線，有時候碰到東吳軍隊也在邊境打獵，有的獵物被吳軍射傷跑到西晉地界的，羊祜都要把獵物還給東吳。羊祜每次與吳國交戰，都要約定日期纔開戰，不搞突然襲擊。部下有勸羊祜偷襲吳軍的，羊祜也不表示反對，就請他來喝酒，把提議偷襲的人灌醉，讓他說不出話來。
羊祜這樣的以德服人，完全征服了東吳百姓官員的心，相對於最喜歡殺人的孫皓，羊祜所代表的西晉簡直就是正義的化身，以至於東吳的官兵和百姓在稱呼羊祜的時候，都不說他的名字，而是尊稱他爲“羊公”。荊州軍區在羊祜的領導下，雖然有過一次西陵戰敗，但是經過多年的積累，仍然是兵強馬壯、後勤充足，這樣的功績，自然會被司馬炎看在眼裡，所以在276年，羊祜被任命爲徵南大將軍、開府儀同三司，重新享受一品大臣的待遇。
自從羊祜專心以德服人以後，在己方已經贏得過一次勝利的情況下，東吳帝國的將領還是一波一波的前來投降。公元274年7月，東吳平虜將軍孟泰、偏將軍王嗣投降；公元276年8月，又一個東吳皇族、京下督孫楷也來投降。羊祜對投奔的東吳官員，也都給予充分的信任，從來不控制他們的人身自由，如果這些人想回東吳，羊祜也絲毫不加阻攔。
有一次，吳將陳尚、潘景來進攻羊祜，被羊祜擊退，在追擊中被殺死，羊祜敬佩他們的忠誠，爲他們舉行了隆重的葬禮，並且陳尚、潘景的家屬來奔喪的時候，羊祜十分尊敬的對待他們，讓他們帶着陳尚、潘景的遺體回到東吳，使得陳家和潘家人感激的五體投地。
又有一次，吳國將領鄧香領兵進攻夏口（漢口），對夏口進行了大規模的掠奪，使得夏口遭受重創。羊祜對鄧香的行爲十分氣憤，懸賞把他從吳國給綁架了過來，抓來後，羊祜只把鄧香教訓了一頓，就又叫士兵把他放回東吳。鄧香感激羊祜不記前仇，最後率領部隊投降。又有一次，羊祜的部下在邊界抓到兩個吳軍將領的孩子，羊祜知道後，馬上命令將孩子送回東吳。277年5月，吳將夏詳、邵頡（傑）率七千多人來投奔羊祜，當初被放回的那兩個孩子的爸爸也率領部隊，跟着一起來投降。
看着這麼多的東吳將領來歸順，羊祜知道自己的方法已經見效，但它知道，給東吳最後一擊，還要徹底征服那個人的心，這個人就是東吳的守護神陸抗。
接下來的，就是西晉和東吳兩位最傑出統率意志的較量。
相對於羊祜來說，陸抗註定要成爲悲劇的一方。論實力，無論是領土面積、人口、部隊人數，東吳都和西晉沒法比；更要命的是，戰爭其實是政治的延續，羊祜所代表的是一個新興的王朝，而陸抗所守護的，是一個精神病一般的殺人狂皇帝和一個人心已經崩潰的沒落政權。這個政權既不能保護東吳士族的利益，也不能保護東吳百姓的利益，它已經完全和它的國民成爲對立的雙方，稍微有一點常識的人都會知道，東吳一定會失敗，而絕頂聰明的陸抗，卻要憑着自己的一腔熱血，去守護東吳，像一個老船長，懷着悲壯的心情，站在已經千瘡百孔的破船上，和船一起慢慢沉沒。
但陸抗毫不後悔，也毫不氣餒，他堅強的守在對西晉的第一線，頂住了東吳北部、西部邊界的巨大壓力，極力替孫皓去打撈已經失盡的人心。
由於隔江相對，羊祜和陸抗經常派遣使者往來。陸抗曾經當着很多人的面兒誇羊祜，說他的器量，即使是古時候的名臣樂毅、諸葛亮也比不上。陸抗送給羊祜的酒，羊祜拿起來就喝；陸抗病了，向羊祜求藥，羊祜就把制好的藥送給陸抗，陸抗也拿起來就吃。很多將領都勸陸抗不要吃敵人送來的東西，怕陸抗被害，陸抗就說：“怎麼會有用毒酒殺人的羊祜呢？”
羊祜和陸抗是死敵，但又是知己，他們的交往，可說是英雄之間的惺惺相惜；他們的交往，又是意志的較量。他們是死敵，是命運讓他們成爲敵人；但戰爭又讓他們成爲了知己，因爲他們都有着共同的理想，這就是爲國家和君主用盡忠誠。
陸抗對身邊士兵說的一席話，道出了他和羊祜亦敵亦友的心聲：“羊祜專門樹立恩德，而我們如果不以恩德回報，這就等於不打就已經認輸了。現在雙方各自保住疆界就可以了，我們不能再想着去佔小便宜。”
羊祜和陸抗交往的事情，當然瞞不過孫皓。當這位一心只想着殺人的皇帝，知道自己最重要的大臣，居然和敵人打得這麼火熱的時候，他的肝都要氣炸了。但是，孫皓離不開陸抗，而且陸家在東吳的勢力和威望，又無人能比，所以孫皓第一次沒有立刻殺人，而是派使者去責問陸抗，陸抗說：“一個小城市都不可以不講信義，更何況大國呢！我如果不這樣做，正是顯示了羊祜和西晉的恩德，傷害的只能是我們自己啊。”
使者回去，把陸抗的話原原本本的告訴孫皓。孫皓非常聰明，一聽這話，就知道陸抗是在責備自己，但出人意料的是，孫皓這回居然沒有發怒，他默默的讓使者把話說完，然後就默默的讓使者告退了。