可是，裴寂也未能改变战场的形 势。裴寂到介休，宋金刚凭借城池抵抗。裴寂在度索原扎营，军士饮用山涧里的水，宋金刚就切断水源，使唐军的士兵因干渴失去战斗力。裴寂想转移营地靠近水 源，宋金刚便趁机挥兵进攻，于是，裴寂的军队溃败，几乎全军覆灭，裴寂本人只身逃回晋州。紧接着，刘武周进逼太原，齐王元吉半夜带着妻妾逃离，奔赴长安。 李唐王朝的发迹地竟在旦夕之间陷落了。李渊惊呼： 晋阳有几万强兵，有足够吃十年的粮食，王业兴起的根基，一下就丢弃了。 十月，宋金刚进攻并攻克了浍州 和晋州。而且，由于裴寂怯懦，错误地实行焚烧政策，百姓惊恐不安，忧愁抱怨，都想去当强盗，夏县居民吕崇茂聚众起义，响应刘武周，裴寂去讨伐，竟被吕崇茂 打败。消息传到长安，朝野震惊。就在这种十分险恶的形势下，李渊慌忙颁发手敕： 贼势到如此地步，很难与他们抗争，不如放弃黄河以东地区，谨守关西。 秦 王李世民坚决不同意，上表称： 太原是王业的基础，国家的根本；河东地区富饶，京城靠它供给，如果全部放弃，臣深感愤恨。希望给臣三万精兵，必定可望消灭 刘武周，收复汾、晋。 于是，高祖征发关中所有兵力扩充李世民的部队，让他挂帅讨伐刘武周。李渊亲自到长春宫为秦王送行。
十一月，正 值隆冬季节，李世民乘河冰坚硬，带兵从龙门渡过黄河，驻扎在柏壁，与宋金刚对峙。当时黄河以东的州县遭抢劫后，没有粮仓，人人惧怕侵扰，聚居在城堡中，征 集不到东西，军队缺粮。面对这种情况，李世民坚决改变过去裴寂那一套扰民的做法，想方设法安抚人心。他发布王敕晓谕百姓，百姓听说李世民率军前来，踊跃归 顺，由近及远，前来的人日益增加，然后唐军逐渐征集粮食，军粮因此充足。于是休兵喂马，只命小部队乘机抄掠敌军，大军则坚壁不战，宋金刚的势力因此日益衰 落。一次，李世民带轻骑兵去侦察敌情，随从的骑兵四下分散，只他和一名穿铠甲的士卒登上山丘睡觉。不久，敌人从四面包围了他们二人。开始，二人毫无知觉， 恰巧蛇追老鼠，碰到了甲士的脸，甲士惊醒后发现敌情告诉了李世民，二人一起上马，才走了百余步，就被敌人追上，李世民用大羽箭射死了敌人的骁将，敌骑兵于 是退去。坚壁了一段时间，各位将领不耐心了，都请求与宋金刚交战。李世民说： 宋金刚孤军深入，麾下集中了精兵猛将，刘武周占据太原，依仗宋金刚为屏障。 宋金刚的军队没有储备，靠掠夺补充军需，利于速战。我们关闭营门不出，养精蓄锐，可以挫败他们的锐气。再分兵攻汾州，阝显州，骚扰他的心腹之地，他们粮尽 无计可施，自然会退军。我们应当等到那时再战，目前不宜速战。
双方对垒相持5个月后，宋金刚以军粮困乏，部队大馁，不得不后撤。秦 王率军奋勇追击，至吕州追上了宋金刚部将寻相。打了个大胜仗后，又继续追击，一昼夜走了200多里，打了几十仗。到高壁岭，总管刘弘基抓住马的缰绳规劝 道： 大王打败敌人，追到这里，功劳已足够了，不断深入，就不爱惜自己吗？况且士兵们饥饿疲惫，应当在此停留扎营，等到兵马粮草都齐备了，然后再进击也不 晚。 李世民说： 宋金刚军心涣散；无计可施才逃跑，功劳难立而失败容易，机会难得，转瞬即逝，一定要趁此机会消灭他。如果我们停滞不前，让他有时间考虑 对策加以防备，就不可能轻易打败他了。我尽心竭力效忠国家，怎么能只顾惜自己的身体呢？ 于是，催马追击，将士们也不敢再提饥饿。唐军在雀鼠谷追上宋金 刚，一天交锋八次，都打了胜仗，俘斩敌军数万。当晚，在雀鼠谷宿营。李世民已经两天没有吃上饭，三天不解铠甲睡觉了。部队里能吃的只剩下一只羊。将士们都 很饿，李世民就和大家分吃了这只羊。接着，李世民带兵赴介休城。这时，宋金刚尚有二万部队，出西门，背城而阵，欲决死战。李世民命李世责力、程咬金、秦叔 宝当其北，翟长孙、秦武通当其南，他本人则亲率3000精骑冲其阵后，结果，宋金刚大败而逃。李世民追出几十里，来到张难堡，摘下头盔示意堡垒，据守堡垒 的军士认出李世民，都欢呼雀跃，高兴得流下泪来。随从告诉守军：秦王还未进食。守军便献上混酒、粗米饭，秦王吃得很香。
在张难堡，敌 军将领尉迟敬德、寻相等率余部八千来降。敬德籍属朔州，武勇善骑，是一位杰出的精骑将领。李世民得到尉迟敬德非常高兴，引为右一府统军，并让他仍然统领八 千旧部。有人担心，敬德会叛变。李世民不听，说： 昔日萧王推心置腹并且能够完成使命，现在信任敬德又有什么可怀疑的。 刘武周听说宋金刚失败，大为惊 恐，便带了百余骑弃太原北走，亡奔突厥。宋金刚收拾残部，准备再战，但部众都不肯跟随他与唐军作战，于是宋金刚也和一百多骑兵逃往突厥。不久，宋金刚打算 跑回上谷，被突厥捉回，腰斩。