、凉、梁三州分出六郡设立秦州，任命胡烈为秦州刺史，专门镇抚。
但河西鲜卑因平蜀有功却未获公平赏赐，加之受到官府歧视压迫，泰始六年（270年）六月，在首领秃发树机能带领下起兵反晋。胡烈率军镇压，兵败战死；随后树机能又击败扶风王司马亮的援军，声势大振。
河西战败的消息传回洛阳，司马炎大为震恐，先后撤换司马亮，改派司马骏镇守关中，以石鉴都督秦州军事。但石鉴与杜预不和，强行催战，再度大败。
泰始七年（271年）四月，秃发树机能联合北地胡人，击杀凉州刺史牵弘，后又于金山斩杀刺史苏愉。数年之间，河西鲜卑连斩西晋四任刺史，攻陷州郡，震动天下。
朝中任恺与贾充朋*党相争，任恺借机推荐贾充西征，意图将其排挤出朝。贾充不愿远行，通过联姻将女儿贾南风嫁给太子司马衷，借助皇亲身份得以留朝，不再西征。此后，任恺与贾充两派党争愈演愈烈，贾充最终用计将任恺调离中枢，使其屡遭诬陷、多次被免官。
咸宁三年（277年），猛将文鸯临危受命，大破秃发树机能，暂时稳定河西。但仅一年后，树机能部将再次大败晋军，斩杀刺史杨欣。
咸宁五年（279年），秃发树机能攻陷凉州治所武威，西晋西部防线濒临崩溃。司马炎临朝叹问：“谁能为我讨此虏？”
最终，马隆自请出征，司马炎力排众议予以支持。马隆自选精锐勇士三千五百人，携带精良武器西征，转战千里，屡破鲜卑军。同年十二月，马隆在决战中斩杀秃发树机能，历时九年的河西鲜卑之乱终被平定，西晋西部边境得以安定。
经此一系列内政整顿、边疆平乱与南方部署，司马炎统治下的西晋国力日盛，统一全国的条件已然成熟，灭吴之战即将拉开帷幕。