隨後，李淵昭告天下，將隋煬帝的孫子楊侑尊為皇帝，也就是隋恭帝，將大業十三年改為義寧元年（公元617），並將隋煬帝時期的一些不得人心的政策廢去。一時間，長安及各郡縣開始迅速地發展起來。
李淵則請封為假黃鉞、使持節、大都督內外諸軍事、尚書令、大丞相，進而封唐王，以武德大殿為丞相府，獨攬軍國機務。隨後又封建成為唐世子，李世民為京兆尹、秦公，李元吉為齊公；任命裴寂為丞瑁府長史，劉文靜為司馬。
接著，他又在鞏固自己在長安城及各郡縣統治的基礎上派軍隊平定四方，增強自己的統治。由於四方之地有許多都掌握在農民起義軍的手中，李淵輕車熟路地將其收歸已有。不久，曾在河東郡據守李淵的屈突通眼見大勢已去，獻城來附，李淵不計前嫌，將其收納於麾下。
就在長安城發生翻天覆地的變化的同時，各地也都發生了很大的變化。許多曾為隋朝官員的人都抱著和李淵一樣的目的起兵反隋，各據一方。
義寧元年（公元617）冬，李密懷著一種想獨吞瓦崗寨起義成果的奸惡用心借機殺掉了翟讓，引起寨中上下人等的不滿，漸失人心。義寧二年（公元618），即隋煬帝大業十四年，如在牢籠之中的隋煬帝終於結束了自己有怒不敢發（帝位被人剝奪）、有力使不出的痛苦生涯，被自己的大臣宇文化及殺死。而後，宇文化及利用將士們的思歸之心脅迫他們自江都北上，被李密率瓦崗軍打敗，而李密也因此元氣大傷。盤踞在洛陽的王世充乘機出兵，打敗了李密。李密眼見大勢已去，於是攜殘兵敗將到長安投降了李淵。
同年三月，李世民改封趙公。五月，隋恭帝楊侑自動退位，詔令李淵即皇帝位於宮中太極殿，立國號為唐，改元為武德，建都長安。六月，李淵封李世民為尚書令，裴寂為右仆射、知政事，劉文靜為納言。隨後又立李建成為皇太子，李世民為秦王，李元吉為齊王，並開始了統一天下的戰爭。
李淵奪取了隋都長安，自然是萬分高興。可是還沒等他高興夠，煩心事便接踵而來。
唐武德元年（公元618）夏六月，一直在甘肅邊地謀求發展的薛舉眼見李淵占據長安將圖天下，心有不甘，勾結突厥兵馬，入侵涇州，燒殺搶掠，其鋒芒直指豳州和岐州一帶。李淵心慌不已，忙召集大家商量對策。
剛剛被立為太子的李建成自薦領兵剿滅叛亂。李世民也趁機自己。劉文靜等謀臣都比較相信李世民的作戰才能，紛紛推薦，李淵最終同意讓李世民領兵出戰。
次日一早，李世民等人點齊兵馬，西出長安去征討薛舉。城裏的老百姓也早已風聞薛舉父子要來進攻長安，生怕戰火再殃及長安，都一個個興高采烈地跑出來夾道相送，而且還不時地有人把手裏捧著的食物塞到路過的兵士手中。因為在他們的心目中，這些手持兵器出征的軍士們已經成了他們的安寧、幸福和希望的所在。當戰爭來到切近的時候，他們能夠做的隻是挈婦將雛地逃難，根本無力反抗，武器的缺乏和力量的分散使他們沒有能力來掌握自己的命運。
沒想到李世民剛剛出城就身染重兵，根本無力指揮戰鬥，為了養護身體和等待作戰時機，李世民下令守城，無論敵軍在城外如何叫罵，沒有命令誰都不許出城迎敵。
但久經沙場的將士們哪裏忍受過這樣的氣啊，早就按捺不住了。劉文靜、劉弘基和殷開山終於忍受不住，決定出兵迎敵。第二天一早李世民才得知消息，趕緊穿上衣服，不顧病情來到城牆上，讓人下令撤軍。
李世民將剩下的人馬集合好之後分成兩批，一批人收拾營帳，同時保持炊煙不滅掉，另外一批人火速上寨牆守衛。他站在城牆上看著自己的軍隊被敵軍包圍，卻無能為力，心內焦急萬分。但也正是這樣的形式讓他認識到了敵人的強大，了解了薛舉並非是一個頭腦簡單的土皇帝。而他的手底下也有著一群謀士。因此千萬不能輕敵。
這一戰李世民大敗，而且敗得很慘。但同時也給予了唐軍將領以及士兵一些教訓，千萬不能心浮氣躁。李世民根據這次戰役認識到了軍隊的不足，他親自上書李淵，要求選購精良戰馬，令軍隊勤加練習。
劉文靜自薦承擔買馬一事。二人分手，李世民給了他不少金子，還給他撥了一隊人馬調遣，而自己則率大軍挺進折墌。
此後，軍隊雖然慢慢恢複了實力，但剛剛經曆過敗仗，李世民並不敢貿然出兵。這時，站在一邊的劉文靜開口了。他經過分析，認為敵軍最厲害的就是他們的騎兵，要想戰勝，何不在他們的戰馬上做文章。而且敵軍因糧草緊缺，將士早已饑餓難忍。正好可以利用這些情況大做文章。
李世民命令將士們在城中大開爐灶，薛仁呆的兵士因饑餓並被唐營的飯香所引誘而翻城來投，一時軍心大振。李世民眼見時機成熟，便命行軍總管梁實率領一部分兵馬紮營於折墌城北的淺水原。而折墌城內的敵將宗羅喉和翟長孫這幾天正因為戰勢沒有絲毫進展而被薛仁呆罵得狗血噴頭，一見唐軍又紮營於淺水原便立即率領手下兵馬來進攻。因軍中馬匹已經少了大半，所以隻好多采用步兵攻擊，而且鼓動部下說，唐軍糧食特別豐富，攻下淺水原，就有糧食吃了。但梁實據險而守，因被圍困缺水，軍士們一個個舌焦唇裂，可梁實仍然死守不退，薛軍兵二=也漸漸地泄了氣。
但是，他們隻顧一心進攻梁實統率的軍隊，卻忘了自己最大的敵人。此時，李世民已經趁他們與淺水原唐軍僵持的時候於淺水原南北兩側埋伏了大量人馬。一見薛軍攻勢減弱，李世民便一聲令下，喊殺聲震天動地，大軍如潮水般向對方衝去。宗羅喉和翟長孫見狀慌忙分兵迎擊，但立即陷入了唐軍的重重包圍之中。李也民和長孫順德等人趁亂率領一支精銳騎兵衝入敵軍陣中，左衝右殺。一時之間，薛軍內外全是唐軍的旗幟和喊殺聲，薛軍兵士嚇得心驚膽寒，紛紛繳械投降，負隅頑抗的也旋即做了刀下之鬼。雙方正激戰間，李世民偶一抬頭，忽然看見遠處有一隊人馬正向西狂奔而去，卷著一股遮天蔽日的黃塵。
“壞了，宗羅睺和翟長孫跑了！”
長孫順德也看到了那群逃走的兵士，扯著嗓子喊道。李世民立刻吩咐劉文靜指揮這邊的隊伍，然後振臂高呼，聚集騎兵隊伍，率先衝向逃跑的宗羅喉和翟長孫。就在此時，斜刺裏衝出一匹馬，擋在李世民的馬前，馬上之人用手緊緊抓住李世民的馬韁。李世民正想發怒，卻見攔在麵前的正是自己的舅舅竇軌，不知發生了什麼事，忙問道：“舅舅，發生了什麼事，你為什麼要攔住我的馬頭？”
“窮寇莫追，我軍已經大獲全勝，不如就讓他們走吧！”
“不行，宗羅喉和翟長孫此番西逃必定是去與龜縮在折墌城中的薛仁呆彙合，如果不乘機追剿，讓他們合兵一處，據城而守，那我們可就前功盡棄了。”
“即使我們現在抓住宗羅喉和翟長孫，薛仁呆也定會纓城自守，折墌城高且堅固，我們照樣無計可施。”
“夫戰，勇氣也，我們等了這麼多天，如今終成破竹之勢，怎麼能就輕易放棄呢？宗羅喉和翟長孫都是薛仁呆麾下悍將，如能將其收服，薛仁呆軍心自會大嘩，何況現在薛仁呆已漸失人心，我們自當乘勝追擊。舅舅，我意已決，你不要再阻攔，還是去解救弘基等人吧！”
竇軌見李世民態度堅決，不便阻攔，歎了口氣，鬆開馬韁，囑咐李世民要謹慎小心。李世民答應一聲，催馬急馳而去，後麵的長孫順德、竇琮等人也緊緊跟隨。
由於多日以來的養精蓄銳，唐軍坐騎腳力甚足，不多時便從側麵追上了宗羅睺和翟長孫二人的隊伍，雙方且戰且進，一直打到折蠊城下。李世民搶先守住涇水南岸，阻住宗、翟二人的退路，並令部下鼓噪進攻。站在城頭的薛仁呆終究不敢派兵出城援救，宗羅喉、翟長孫二人雖拚死抵抗，但眼看身邊的部下或死或降，一個接一個地減少，轉眼隻剩數人與唐軍纏鬥。而折蠊城內的薛仁呆卻始終按兵不動，不來援救，二人不禁心灰，長歎一聲，相互望一眼，拋下手中兵器，任由唐軍綁縛起來。
李世民隨後集合唐軍，將折墌城團團圍住，並在城外安營紮寨。而後，他召集眾將議事，剛剛被解救出來的劉弘基、李安遠和慕容羅喉等人也都來了。剛破了敵軍的大隊人馬，大家都很高興。劉弘基走到李世民身邊，低聲地問道：“元帥，我聽說宗羅喉和翟長孫被我們給抓住了，是不是真的？”
“是的。”
“元帥想怎麼處置他們兩個人呢？”
“剛剛打完仗，我還沒有時間來考慮這個問題，你是不是有什麼話要說？”
“元帥，末將身陷囹圄之時，薛舉父子對我等百般淩辱，幸虧宗、翟二位將軍照睇我們才得以保全性命，而且宗、翟二將有勇有謀，頗得軍中將士的愛戴，是不可多得的將才，還望元帥三思。”
“我也正有此意，隻是不知道他們二人肯不肯為我所用。”
“宗、翟二將身居薛仁果之下可以說是明珠暗投，如果動之以情，曉之以理，必能將其勸服。”
李世民點點頭，命人將宗羅喉和翟長孫押上來。二人進入帳中，立而不跪，李世民並不氣惱，親自起身給二人鬆綁，並命人賜座。而後李世民笑著說道：“二位將軍受苦了，兩軍對壘，各自為戰，我也是情非得已。如今我大軍已兵圍折墌城，不日定能克城奏凱，我有意與二位將軍共赴大計，不知二位意下如何？”
“好女不嫁二夫，忠臣不事二主。我二人雖然魯鈍，卻也盡知此理，你不用多說了，我們不會答應的。”
“二位將軍，弘基等身陷囹圄之時多蒙二位照顧才免去許多痛苦，弘基等感激不盡，雖說忠臣不事二主，但又有‘良禽擇木而棲，良臣擇主而事’的古語，秦王敬佩二位的將才，而薛仁呆卻置二位將軍於亂軍之中而不顧，這樣的人還值得我們為他拚命嗎？”