当时武帝秘密制订了灭吴计划，而朝臣议论多有不同意见，只有杜预、羊祜、张华与武帝意见相合。
羊祜病重时推荐杜预代替自己的职务，因而以本官假节关行平东将军，兼征南军司。
咸宁四年十一月，羊祜死后，杜预拜为征南大将军，都督荆州诸军事，赐给追锋车和第二驸马。
杜预到任后，修补甲兵，耀武扬威，选拔一支精锐军队，袭击吴西陵督张政，大破张政军，因有功增封三百六十五户。
为了试探东吴防务虚实，他组织了几百名劲卒乘船过江，偷袭东吴名将、西陵督张政的防地。
俘虏了很多敌军，缴获了大批军资。
接着，他又用离间计，使东吴末帝孙皓撤换了张政，另派武昌监刘宪守备江防。
东吴江防部队新易将领，上下离心，战斗力更加削弱。
杜预见时机已经成熟，便在咸宁五年几次上表晋武帝，请求立即出师伐吴。
在上表中，他详细分析了东吴的内政和军备情况，批驳了朝中一些大臣认为伐吴之举胜负难以预料、还是不要轻举妄动的观点。
他说，现在东吴孙皓残暴无能，朝政昏暗，臣下离心，士无斗志，败亡的征兆已十分明显。
目前出师定能稳操胜劵，劳师败绩的可能仅有百分之十。古人云兵贵神速，如果不立即出兵，迁延时日不但贻误战机，而且计划难免泄露。
孙皓一旦怖而生计，整修城池，加强江防，那时出兵就为时已晚，更加艰难了。
晋武帝认可了杜预的意见，决心立即出兵伐吴。
“咸宁六年正月，杜预率大军向江陵进发，命部将率兵沿长江西上，配合出巴东沿江东下的王铉水军连克数城。”
“又遣将率八百精兵，乘黑夜渡过长江，偷袭乐乡。”
“他命士兵多插旗帜，虚张声势，沿山放火，设疑兵以扰乱东吴军心。”
“乘驻屯乐乡的东吴都督孙歆与王溶交战之机，杜预又命在乐乡城外设下伏兵。“”
“当孙歆战败逃回乐乡城时，晋军随东吴败兵混入乐乡城中，生俘了孙歆。”
“军中颂扬杜预是以计代战一当万，乘胜利形势，杜预命大军进攻江陵，一鼓而破。”
“江陵攻克以后，各路晋军主将会集江陵举行军事会议，商讨进军灭吴之策。”
“贾充、苟勖等大臣认为不可能在短期内攻破东吴，时疫将起，应等冬季再战。”
“也有人认为正值夏暑，江水上涨，不宜大举进兵。”
“杜预反驳了这些看法，指出晋军初胜，军威大震，立即东下必势如破竹。”
“江陵会议后，杜预向南进军中，斩杀和俘获东吴将领、地方官吏一百三十多人。”
“杜预持节进行安抚，任命长吏，安定秩序。”
“沿江东进的晋军，所到城邑，吴军皆降。”
“兵临城下之日，吴主孙皓投降，东吴灭亡。”
“至此，结束了三国鼎立的局面，实现了全国统一。”
“杜预因功进封当阳县侯，增加食邑至九千六百户，其子杜耽也受封为亭侯，食邑千户，更赐杜预八千匹绢。”
“让他继续镇守襄阳。杜预回镇以后，屡次向司马炎陈述自己的家族世代为吏，认为武功不是自己擅长的，请求退职，但不被朝廷允许。”
“全国统一后，杜预致力于发展农业生产，兴修水利工程，造福当地百姓。”
“他主持在今河南境内修建了一条灌溉渠道，引滍水、淯水灌溉沙地旱田1万多顷，公私受益，百姓大悦，尊称他为杜父。”
“他还主持在江陵与巴陵之间修建了一条长达一千多华里的漕渠，引汉水支流夏水注入，与湘水连接起来，不但减少了汉水下游洪水的威胁，更重要的是便利了南北交通。”
“当时江南地区流传着后世无叛由杜翁，孰识智名与勇功的歌谣，就是百姓对他文治武功的赞颂。”
“晋武帝太康五年底，在朝野享有盛誉的杜预特进、司隶校尉。”
“但他在赴任途中不幸染病，行至邓县去世，终年63岁。”
““晋武帝深为痛惜，下诏追赠他为征南大将军、开府仪同三司，谥号成。”
“杜预逝世之后，家人遵照他的临终遗嘱，效法春秋时期郑国的执政名臣子产丧事从俭的做法，薄葬在洛阳郊外的首阳山南。”
“贞观二十一年，唐太宗诏令历代先贤先儒二十二人配享孔子，其中就包括杜预。”
“建中三年，礼仪使颜真卿向唐德宗建议，追封古代名将六十四人，并为他们设庙享奠，当中就包括杜预。”
“及至宣和五年，宋室依照唐代惯例，为古代名将设庙，七十二位名将中亦包括杜预。”
白居易：杜预不仅在军事上有着高深造诣，在经济、政治、历法、法律、数学、史学甚至书法和工程学方面都无一不精。
当时的人都知道杜预