劉武周麾下大將宋金剛，原是易州一股盜匪的首領，後被竇建德擊敗，投奔了劉武周。劉武周非常欣賞宋金剛，封他為宋王，將自己一半的家產送給他，又將自己的妹妹嫁給了他。宋金剛當然感激涕零。
宋金剛向劉武周進獻爭霸天下之策，「入圖晉陽，南向以爭天下」，劉武周認可，於是在619年三月，任命宋金剛為西南道大行台，讓他率領三萬大軍，又聯合突厥人，進攻並州。
鎮守並州的齊王李元吉胡亂指揮，逼反了車騎將軍張步。宋金剛率軍連戰連勝，相繼攻占榆次、平遙、介州。
李淵得知並州危急的訊息，派兵來援，被宋金剛擊敗。這時，李淵最信任的右仆射裴寂主動請纓，李淵任命其為晉州道行軍總管，率大軍迎戰。可惜，裴寂在戰略層面上，還有些可觀之處，具體戰術指揮上，差之甚遠。因而，雙方接戰不久，唐軍就被宋金剛所部切斷水源，然後宋金剛趁亂發動進攻，唐軍慘敗，幾乎全軍覆沒，裴寂狼狽逃往晉州。隨後，宋金剛率大軍攻向太原，李元吉棄城逃往長安，並州全境被劉武周占據。
占據太原後，劉武周再派宋金剛率軍攻占晉州，擒獲大唐右驍衛大將軍劉弘基，好在不久之後，劉弘基又逃回大唐。
之後，宋金剛再率軍進逼絳州，占據龍門，又攻占澮州。
唐軍懦弱的表現，使得本來頗為安定的山西地區又叛亂紛起，夏縣百姓呂崇茂聚眾造反，自稱魏王，響應劉武周。裴寂率軍征討，反被叛軍擊敗。隋朝舊將王行本占據蒲阪，也與劉武周響應。
至此，山西大部，被劉武周大軍占據。關中震驚，李淵惶恐。
同時，竇建德也在對大唐用兵。619年六月，竇建德率軍攻陷大唐所屬滄州。八月，竇建德又率領十萬大軍，進攻大唐所屬洺州，淮安王李神通不是敵手，退保相州。竇建德占據洺州，唐洺州總管袁子幹投降。竇建德隨即率軍殺奔相州，李神通聞風而逃，到黎陽投奔了黎州總管李蹟。竇建德攻陷相州，斬殺唐相州刺史呂瑉。
稍事休整，竇建德再率軍攻擊趙州，李神通派慰撫使張道源率軍支援。可惜，唐軍依舊沒能擋住竇建德的兵鋒，趙州被攻陷，張道源和趙州總管張誌昂都被生擒。
竇建德再引兵殺奔衛州。行軍途中路過黎陽附近，李勣率軍主動發起進攻。竇建德被激怒，改變進攻目標，指揮大軍攻陷黎陽，生擒淮安王李神通、李勣的父親李蓋、魏徵以及李淵的妹妹同安公主。李勣本來已經率領數百騎兵殺出重圍，渡過黃河逃離黎陽，可是聽說父親被捉，又返回黎陽，投降了竇建德。竇建德頗為欣賞李勣，但不太信任，於是將李勣的父親帶在身邊為人質，然後任命李勣為左驍衛將軍，仍然讓他鎮守黎陽。
得知黎陽陷落的訊息，大唐衛州官吏主動獻城投降了竇建德。
竇建德大軍即將攻來，滑州內外一片混亂，大唐滑州刺史王軌的仆人刺殺了王軌，帶著其首級投降了竇建德，求取功名富貴。為了維持自己仁義的人設，竇建德殺掉背主的奴仆，將王軌首級送還滑州。滑州官吏百姓也投到竇建德麾下。
竇建德聲勢浩蕩，本來已經名義上降唐的徐圓朗，以及附近州縣各勢力，皆望風歸降。
大唐的敵人當然不止如此，幾乎同一時間，王世充派大軍先後攻陷大唐的伊州、義州，又進攻西濟州；梁師都率軍侵犯大唐所屬靈州，沒能成功，不久之後又聯合突厥兵馬，進攻延州；蕭銑派手下將領楊道生侵犯大唐峽州……
短時間內，大唐邊境烽煙四起，各路群雄混戰的同時，紛紛將戰火燒入大唐境內，大唐局勢岌岌可危。
好在大唐畢竟是大唐，雖然面臨的形勢險惡，內憂外患不止，但險惡的形勢，並沒能打壓下其蓬勃發展的勢頭。內憂雖然影響不小，但還沒到大爆發的程度，短時間內還能做到一致對外；外患更是可以轉壓力為動力，大敵入侵又如何，不外乎兵來將擋水來土掩，先防守再反攻，最後徹底消滅敵人而已。
秦王李世民，再次起到定海神針的作用。
山西大部被劉武周占據後，李淵頗為惶恐，甚至打算放棄包括太原在內的整個黃河以東地區。李世民強烈反對。李世民認為，太原是我們的起家之地，王霸之業的基礎，國家的根本之地，決不能放棄。河東之地，物阜民豐，京師長安的糧草物資等物，很多都需要靠河東各郡縣供應，同樣不能放棄。接下來，李世民主動請命，願意率軍消滅劉武周，收復山西各州郡。
李淵當然也不願承認失敗，聽聞李世民所言，精神一振，征發關中所有兵力，全部劃歸李世民麾下，讓他率軍迎戰劉武周。
這個時間，已經到了619年十一月，此時劉武周的大軍，已經進攻到了浩州。
趁著冬季黃河結冰，李世民率軍從龍門踏冰渡過黃河，屯兵於柏壁，與宋金剛所部對峙。李世民料定宋金剛所部孤軍深入，為了能快速取得勝利，一定集中了劉武周麾下所有精兵猛將，兵鋒銳利，但是也必然攜帶不了多少糧草等物資，沒有儲備，只能靠劫掠勉強補充，必然急於求戰，因而，再次采用深溝高壘防守為主的策略，消耗敵軍銳氣。同時，李世民不斷分派出部份兵馬，攻擊、騷擾宋金剛所部占據的戰略要地，破壞其劫掠行動。時間稍長，宋金剛所部糧草缺乏，士氣低落。
一次，李世民輕裝簡從，偵查敵情。不料，就在李世民登上一座小山觀察情況時，被宋金剛發現，悄悄派出一支兵馬，包圍而來，想生擒李世民。這時，李世民身邊只有一名隨從，形勢十分危險，就見李世民，張弓搭箭，一箭射死敵軍主將，嚇得其余士卒不敢上前，李世民趁機沖出包圍圈，安全返回。
之後，雙方大戰沒有，小戰不斷，互有勝負。
到了620年春，大唐將領秦武通圍攻蒲阪，王行本出戰慘敗，裏無糧草外無救兵，無奈開城投降。李淵親赴蒲阪，下旨斬殺了王行本。
山西局勢，開始稍稍向有利於唐軍的方向扭轉。
