武德三年（620年）七月，秦王李世民率兵5万（一说8万）征讨王世充，唐军进展神速，接连取胜，很快扫清洛阳外围，王世充无奈之下只得退守洛阳。李世民围住洛阳，四面攻城，但王世充也是一员猛将，瓦岗军李密就是被王世充打败，李世民围攻洛阳长达八个月之久，始终无法攻克洛阳。
由于洛阳久攻不克，唐军士气低落，大量士兵逃亡，李世民的处境极其困难。但洛阳在李世民的包围下，已成一座孤城，粮草缺乏，难以做到长期坚守。王世充派人冒死向窦建德求救。窦建德接到王世充的求援信后，亲自带领十几万大军，号称三十万，往洛阳城下的李世民扑来，而李世民只有不到五万人。而此时洛阳城内王世充还有2万兵力，李世民面临着前有坚城久攻不克，后有大军抄自己后路的险恶处境。
李世民大军在河南洛阳，窦建德大军从河北而来，在河南、河北之间有一个重要关隘虎牢关，自古就是兵家必争之地。《三国演义》中描述的三英战吕布的故事就发生在虎牢关。
李世民画像
李世民召集部下商量，部下基本行成两派意见，一派认为应该立即撤兵回陕西，以后有机会再来征讨，另一派认为应当立即撤下围困洛阳之军，迅速抢占虎牢关这个险要关口，先据险固守，然后根据形势发展，寻找机会打败敌军。李世民力排众议，不但不撤兵，还决心打败王世充和窦建德。
李世民一面命令李元吉带领唐军继续围攻洛阳，一面自己亲自带领3500人飞速抢占虎牢关，与窦建德的十万大军决战。
古今中外有谁比他还能打：三千大败十万雄兵，生擒敌方统帅李世民率领的3500人为玄甲军。玄甲军是李世民创立的一种精锐骑兵。 士兵、将领、马匹都是静心挑选出来的精英，士兵和马匹都披着坚固的铠甲，机动速度快，战斗力超强，玄甲军的将领也都是秦琼、程咬金、尉迟恭这样的猛将。因兵士所穿的军服和铠甲都是黑色，所以被称为玄甲军。
大唐精骑
玄甲军很能打，窦建德也是能征善战之人，不然也不可能在群雄并起的局面下生存下来。窦建德同样十分清楚虎牢关的重要地位，也率兵前来抢占虎牢关。
窦建德日夜兼程，进兵神速，但仍晚来一步。当他于公元621年3月26日早上到达虎牢关时，李世民已于25日夜先期进驻。夏军发动了几次进攻，都被唐军依靠险关打退，两军遂成相持之势。这时窦建德的谋士凌敬献计，不如采取围魏救赵之策，放弃进军洛阳的计划，率大军进攻上党（今山西长治）、汾阳，那里唐军兵力空虚，必定攻无不克，而后兵峰直指长安，唐军必定撤兵回守，洛阳之围不战自解。如果窦建德依计而行，以后天下是谁的就很难说。
