刘武周败亡之际，关东形势发生了翻天覆地的变化。曾经叱咤中原、拥众数十万的瓦岗军，在李密领导下本是最有希望夺取天下的势力，却遭到据守洛阳的王世充的沉重打击。王世充趁李密与宇文化及拼杀两败俱伤之机，发动突袭，大破瓦岗军。李密势穷力蹙，被迫西走入关，投降唐朝，受封邢国公。然李密自负其才，不甘居于人下，不久便图谋东山再起，欲出关东收揽旧部，事泄被唐军截杀于熊耳山，时年三十七岁。一代枭雄，就此陨落。
此时，黄河流域形成了三足鼎立之势：窦建德据有河北广大地区，建都洺州，国号夏，其政清刑简，深得民心，拥兵十余万，为当时最强大的割据势力；王世充在洛阳自称郑帝，据有河南之地，虽内部矛盾重重，但洛阳城防坚固，兵器精良，仍不可轻视；唐朝则据有关中、河东、陇右、河西，根基稳固，府兵精锐，最具战略优势。三方对峙，大战一触即发。
武德三年（620年）七月，李世民奉命率领大军出关，进攻王世充。唐军步骑十余万，旌旗蔽日，鼓声震天，浩浩荡荡东进。李世民屯军北邙山（今河南洛阳北），居高临下，指挥各军对洛阳采取大规模的包围态势。他分遣诸将攻取洛阳外围州县，切断其粮道，孤立洛阳。王世充数次突围，皆为唐军所败，只得困守孤城。
洛阳虽有坚城利器，高墙深池，护城河阔数十丈，但围困既久，城中粮食耗尽，"民食草根木叶皆尽，相与澄取浮泥，投米屑作饼食之，皆病，身肿脚弱，死者相属于道"。王世充面对强敌，几次派人向窦建德求援，许以厚利。窦建德起初颇存观望之心，意图坐收渔人之利，待唐、郑两败俱伤后再乘机取之。其谋士王琬、长孙安世等日夜泣请，言"郑亡则夏不能独立，唇亡齿寒之祸，大王宜深思之"。窦建德遂下定决心，于武德四年（621年）三月亲率十万大军，号称三十万，西援洛阳。
李世民面对腹背受敌之险境，与诸将商议。多数将领主张退兵避其锋芒，待窦建德退后再图洛阳。李世民力排众议，断言："世充粮尽，内外离心，我当不劳攻击，坐收其敝。建德新破孟海公，将骄卒惰，吾当进据虎牢，扼其咽喉。彼若冒险争锋，吾取之甚易；若狐疑不战，旬月之间，世充自溃。城破兵强，气势自倍，一举两克，在此行矣。"遂采取"围郑击夏"之策，留齐王李元吉等继续围困洛阳，自率骁勇三千五百人，驰往虎牢关（今河南荥阳西北汜水镇），据险御敌。
虎牢关地势险要，南连嵩岳，北滨黄河，西接成皋，为洛阳东部门户
…。。