正当司马炎励精图治、西晋的国威蒸蒸日上的时候，东吴却 如日薄西山，处处表现出倾颓的趋势。
吴王孙皓那乖戾、残忍、 荒淫的天性在绝望的环境中更向病态发展，他无意中把东吴这辆 气息奄奄的破烂马车，又向死亡驱进了一步。孙皓为了满足自己 的淫欲，强行规定，大臣的女儿必须先充实他的后宫，落选者才 可以出嫁。为此，中书令贺邵曾加以劝阻，但对已经完全失去良 知、绝灭人性的昏君孙皓来说，忠言不但不能恢复他的理智，反 而萌发了他的杀机，结果，他用烧红的锯条锯下了贺邵的人头。 对于那些敢于犯颜直谏的大臣，他更是视若仇敌。尚书熊睦见孙 皓为人过于残暴，要他宽以待人，孙皓便用铁环猛打熊睦，直到 身死。
不仅如此，孙皓有时还人为地制造一些悲剧，以他人的痛 苦和生命来满足变态的心理，他经常故意把大臣们灌得烂醉，使 他们在酒精麻醉的情况下说出真话，然后定罪，并置之死地而后 快，而所用刑罚更是凶狠残暴，令人发指，如剥面皮，砍双足， 挖眼珠。面对孙皓那顶用人血染红的皇冠，朝野人人自危，噤若 寒蝉。在这种情势下，孙皓的昏庸也更衬托出司马炎的开明，处 在痛苦与黑暗中的东吴人开始向西晋寻求寄托，一些将领率众倒 戈，投降西晋。这在某种程度上进一步激发了晋人灭吴的欲望， 于是，一时之间，灭吴成了朝野人士议论的话题。
但司马炎也深 知，东吴虽弱，却已立国几十年，是个不容忽视的对手，如果在 策略上稍有失误，便会功败垂成。因此，虽然朝野的灭吴呼声日 益增高，但司马炎始终未轻易许诺。一直到泰始六年(270)，他 才派羊祜到晋吴交界地荆州进行灭吴的准备工作。
司马炎可谓慧眼独具，一下子就抓住了一个合适的人选，羊 祜在人格和才略上都是一个无可挑剔的人物，更是一个卓有谋略 的军事家。他少年时代就以清德名世，司马炎受禅后，即以佐命 之功，进位中军将军。镇边后更谨慎从事，力尽职守，不负国望。 他一方面立即占领要害之处和膏腴之地，使吴军在军事与物资上 都处于尴尬的境地;另一方面实行屯田，为日后的军事行动打下 雄厚的物质基础。羊祜上任伊始，几乎军无现粮，可到最后一年， 仓内已有十年的积蓄。在此基础上，他又采取了与传统的“兵不 厌诈”用兵之道相反的策略，即攻心战，取得吴人的信任，使他 们在心理上产生一种对晋的亲切感与对吴的疏离感。他每次与吴 人交战，总要等到日出，从不作掩袭之举。有一次，晋军俘虏了 吴人的两个孩子，羊祜不但不加以讯挞，还送他们回家与家人团 聚，孩子的父亲因此很感激，不久举家降晋。
羊祜临终之时推荐了另一位名将杜预接替了他的职务。这 位风度儒雅的将军有书生的头脑，却无书生的弱点，政治与军事 才能不亚于他的前任羊祜。羊祜死后，他担任了镇南大将军，都 督荆州诸军事。杜预没有辜负羊祜的期望，上任伊始，就表现出 了卓越的军事才能。他首先袭击了驻守在要害之地的吴军，并且 大获全胜，吴将张政恐朝廷怪罪，将此事隐而不报。杜预深知张 政是一个不易对付的敌手，便借此事除掉他。杜预派人把战俘送 还东吴，孙皓闻之大怒，调离了张政。就这样，杜预轻而易举地 赶走了自己的劲敌。
战事按照羊祜生前提出的方案进行。身为六军统帅的贾充从中 作梗，向司马炎上书：“现在正值春夏之交，吴地瘟疫流行，应 该召回各路大军。并且要腰斩张华，以谢天下。”这一次，司马 炎没有听信他的谗言，只是冷冷地说道：“伐吴是我的主张，张 华只是赞同而已。”于是王膚的部队又继续前进。这时，另一路 陆路大军在王浑的率领下也势如破竹，到了横江(今安徽和县)。 在两路大军的夹攻下，建业城中的孙皓成了瓮中之鳖，他派游击 将军张象带领水军抵抗。谁知张象根本没有抵抗之意，一出城便 作了俘虏。在这种情况下，孙皓只得素车白马，肉袒而缚投降西 晋，东吴的40多个郡，300多个县，230十余万人口全部归入西 晋的版图。东吴这个立国近60年，曾经雄踞江东的国家，终于 断送在亡国之君孙皓的手中。
国家既已统一，外患又已消除，司马炎便把主要精力放到恢 复经济，发展生产上来。由于东汉末年以来战乱频仍，自曹魏开 始就实行了为战时服务、带有浓厚的军事色彩的屯田制，这陈旧 的生产方式显然已不适应和平时期的需要，为此，司马炎着手颁 布新的土地制度，即占田制。
实际上早在司马昭当政时，即已考 虑这个问题，咸熙元年(246)，就曾下令罢屯田官，以均政役， 并将典农中郎将、典农校尉改为太守，典农都尉改为县令或县 长，这样，原来的典农部民和屯田客都成了属于郡县的编户了。 在此基础上司马炎规定了占田和课田的数额：按占田制的规定， 每个男子可以占田70亩，女子占田30亩;占田制对提高人民的 生产积极性，解放生产力，起到了一定的作用，这从太康时期的 繁荣可以窥见一斑。平吴那一年(太康元年，280)，西晋有户240 余万，但到太康三年"82)，已锐增到371万户，两三年中，增 加了 130多万户，其中除去当初隐漏的户数，实际增加的人口也 是相当可观的。在封建时代，人口的增减往往是衡量社会安定与 动乱的浮标，西晋初年人口的增长在某种意义上说明了政府的政 策法令收到了一定的成效