辟雍，亲自参与原本专属士族的乡饮酒礼。后世研究者认为，司马炎此举，意在换取门阀士族的支持，期望他们在自己去世后，尽心辅佐无能的司马衷。
长期纵情声色，彻底拖垮了司马炎的身体。太康末年，他已重病缠身，太康十年（289年）年末，病情加重，卧床不起。外戚杨骏与继后杨芷父女，借侍奉病床之机独揽大权，禁止百官觐见，隔绝皇帝与朝臣。二人忌惮汝南王司马亮（司马炎叔父）权重，极力鼓动病重的司马炎，将司马亮调任豫州。
太熙元年（290年）三月，司马炎陷入昏迷，开国功臣大多离世，朝臣惶恐无措。杨骏趁机将皇帝身边近臣尽数换为心腹，司马炎偶尔清醒，见身边皆是奸佞，怒斥杨骏“何得如此”，当即下旨令尚未离京的司马亮入朝辅政。可诏书被杨骏私自扣押，秘而不宣。两日之后，司马炎病危，杨皇后奏请以杨骏为辅政大臣，司马炎无力反驳，点头应允。杨皇后随即召中书监华廙、中书令何劭，口头传达皇帝旨意，草拟遗诏。遗诏写成后，杨芷呈给司马炎过目，他凝视诏书，最终沉默无言。
两日之后的四月二十日（5月16日），司马炎在洛阳含章殿驾崩，享年五十五岁，临终前仍在追问“汝南王来了没有”。死后葬于峻阳陵（今河南偃师南蔡庄村北），谥号武皇帝，庙号世祖。
司马炎一死，太子司马衷即位，是为晋惠帝，杨骏凭借遗诏总揽朝政。但仅一年之后，皇后贾南风发动政变，诛杀杨骏，开启了西晋宗室诸王争夺最高权力的乱局。手握重兵的宗王相继卷入纷争，最终演变为历时长久、破坏力空前的“八王之乱”，西晋国力耗尽，天下分崩。建兴四年（316年），前赵刘聪攻破长安，俘获西晋末帝司马邺，西晋灭亡。此时，距离晋武帝司马炎去世，尚不足三十年。