劉芳亮率領的十多萬人馬，作為進攻北京的一支偏師，渡過黃河以後，就同主力分路向晉南前進，一麵追趕高傑，一麵占領晉南各府、州、縣。遵照李自成的命令，從晉南向東，越過太行山，進入河南省的懷慶地方，然後由安陽向北，威脅畿輔。李過率領的先鋒騎兵，則沿著從平陽去太原的大道繼續前進。
當時是，明朝在山西境內的兵力，十分空虛。
巡撫蔡茂德直接指揮的府標營，大約隻有三千人。他原來駐在平陽，可是山西省從河曲城開始，就與陝西相臨，隻隔著一道黃河，上下一千餘裏，到冬天全都結冰，隨時可以渡過，更不是少數兵力可以防守的。蔡茂德奉崇禎皇帝嚴旨，不能不布置守河。可是他手中無兵無餉，毫無辦法。正準備戰死在平陽的時候，晉王卻催他趕快回太原，全力保護省城。因為當時不僅是平陽以西黃河危急，而且在河曲附近，也哄傳大順軍渡河，那就是說，李自成的人馬不僅要從平陽進軍，還要從北邊走偏關過來，從北邊包圍太原。所以太原城中，從晉王宗室到達官富紳，都十分害怕，緊催巡撫蔡茂德回去守城。蔡茂德知道，倘若太原失守，他就更不好向皇上謝罪了。所以當大順軍從韓城一帶有小部隊渡河的時候，他就帶著二千標兵匆匆返回太原，而將守黃河的重任，交給了原來駐防在平陽一帶的副總兵陳尚智。十二月十八日，大順軍一部分人馬從禹門口和韓城之間的沙渦鎮過河，陳尚智逃回平陽，又逃到趙城，投降了。太原以南再也沒有明朝的軍隊了。
山西各地百姓從李自成到西安以後，就哄傳著李自成如何仁義，人馬紀律如何嚴明，紛紛等待李自成大軍一到就要迎降。果然大順軍渡河以後，各地士民不但親眼看到了李自成的紀律確實很好，而且讀到了提營首總將軍劉宗敏的布告。所以從十二月二十二日起，就出現了到處迎降的形勢。平陽知府張磷然投降了，受到了重用。平陽的大鄉紳申家嚴逃到山中，被家奴們捉到，獻給大順軍。劉宗敏因他為富不仁，民憤很大，下令嚴加拷打，逼他將家中的金銀、財寶、糧食全都交出，然後處死。這件事使平陽府的百姓們人心大快。
李自成在到處迎降的情況下進入山西，他的前邊有兩三千威武的騎兵，然後是一隊騎兵打著各種形式的旗幟和儀仗，還有一班樂隊在馬上奏樂。大順朝的內閣、六政府、文諭院等衙門的主管大臣，各帶奴仆、衙役、騎兵，跟隨在後，然後又是二千騎兵。另外還有五百弓弩手，二百火器手。這五六千騎兵，是大順皇帝的護衛親軍，盔甲整齊，旗幟鮮明，馬匹精壯。再後是五百匹騾子和一百匹駱駝，馱運食物和糧草。起義十五年來，李自成第一次以帝王的派頭，率領大軍出征。他自己和跟隨在他身邊的文臣武將，在離開長安前，已經料到會一路迎降。如今果然如此，所以盡管距離北京的路程尚遠，但是人人都認為勝利已在眼前。幾年前，宋獻策所獻的《讖記》，上邊說“十八子主神器”，又詩句中有“李繼朱”三個字。如今看來大勢已定，這《讖記》完全應驗了。那幫在長安新投降或沿路上新投降的文臣們，也都慶幸自己早識天命，變成了從龍之臣。
東征大軍隻顧向前，各地方一般都不留兵駐守。新委派的地方官吏，遵照李自成的嚴令，搜捕明朝的宗室和各府、州、縣的鄉宦、富民，以及鄉宦的親屬。隻要是平日魚肉地方，積有民憤的人，一概捉拿，嚴刑拷打，強迫他們獻出金銀，充作軍餉；沒收他們的存糧，部分充作軍餉，部分散給饑民。凡是已經投降的府、州、縣，都迅速委派了大順朝的縣令。當時關中多年戰亂，加上天災不斷，既要供應東征大軍，還要供應西征西寧和駐守榆林、寧夏等地的人馬，所以東征軍進入山西以後，搜捕明朝宗室和地方鄉宦、大戶，嚴刑拷打，逼迫他們獻出金銀財寶和糧食，既是為國為民除害，又為了解決大軍給養和朝廷開支。新委派的各府、州、縣官吏，都把這件事做借口向民間搜索騾馬，當做軍餉，並不奇怪。可是山西省也是災荒不斷，生產破壞，城鄉凋敝。李自成隻考慮如何供應東征大軍，長驅入燕，趕快攻破北京，至於如何使新委派的官吏采取一些有效的辦法，使百姓能夠過安定的日子，休養生息，就來不及考慮了。
李自成到平陽的時候，劉宗敏早已先行抵達，率領在平陽的文武群臣和新投降的地方官紳，在郊外恭迎“聖駕”。從城門到行宮，沿大街兩邊，家家門口擺著香案，士民們或躲入門內，或跪在香案旁邊迎駕，沒有人敢在街上走動，或互相小聲談話。街道上隻有雄壯的馬蹄聲，走向知府衙門，那裏是為皇帝布置的臨時行宮。行宮的大門外，用鬆柏枝和彩綢，搭成東西相對的兩座高大牌坊，每一座牌坊上懸掛一個黃緞楷書匾額，左邊的匾額上寫著“功邁湯武”，右邊的寫著“德比堯舜”。每一座牌坊上還懸著一副楷書對聯，雖然不過是歌功頌德的話，但是這兩副對聯都編得對仗工整、氣派雄渾，字體端莊、圓潤，顯然是出自大順軍中有學問和善書法的文臣之手。
李自成在平陽停留五天，召見父老，訪問疾苦，賑濟饑民。劉芳亮的偏師已經過了澤州，即將進入河南。這一支偏師又分出一支人馬，從太行以西向北進軍，目的是招降晉東州縣，然後與取道彰德北進的部隊在保定以南會師。李自成因各路進軍無阻，在平陽歡宴隨征群臣，並讓文臣們在席上限韻賦詩。這些詩正如曆來的應製詩一樣，無非是歌功頌德之作，缺少詩情，隻一味追求形式上的典雅、華麗，以及平仄諧調、音節鏗鏘。
李岩自從參加義軍之後，很少做詩，這時也不得不追隨牛金星等人之後，吟成七律一首。
李自成看了群臣歌功頌德的詩篇，心中十分歡喜，覺得這才是開國氣象。他向幾位文臣問道：
“唐詩裏有一句‘三晉雲山皆北向’，讀起來很有氣派，卻不知作何解釋？”
新投降的平陽知府張磷然是進士出身，此時趕忙跪下回答說：
“這是唐開元年間崔曙的一句詩。從三晉地勢來說，雖然多山，但是愈往北地勢愈高，到了恒、代一帶皆為北嶽，好似全晉群山連綿，都是朝向北嶽。這是通常的解說。然而以微臣看來，詩人原來並無深意，隻是泛泛地寫景而已，卻不料正與今日情勢暗合。”
李自成忙問：“如何暗合？”
張磷然接著說：“聖駕自蒲州渡河，一路北來，如今在平陽駐蹕，兩三天後將繼續北上，直搗大同，方轉向東麵，攻取北京；三晉父老紛紛相迎，麵北叩頭，注目雲天，等候陛下在北京登極。所謂‘三晉雲山皆北向’者，不期然而與今日人事相合。”
李自成點頭笑著說：“解得好，解得是。”
劉宗敏因為要親自指揮攻太原，不使晉王逃走，所以在李自成到平陽後的第三天，就動身到太原去了。李自成在平陽停留了五天之後，分派了各地方府、州、縣官，經洪洞、趙城、霍州、靈石、汾州，於二月初六日上午到達太原城外。這時大順軍已經在前一天將太原包圍了。
在大順軍來到之前，山西巡撫蔡茂德已經因為不守黃河回到省城，使晉西和晉南各州縣不戰失陷，受到山西巡按禦史汪宗友的嚴厲彈劾。崇禎皇帝下旨切責，將他撤職，等候問罪；同時命一位叫做郭景昌的官僚，前來接任。正月二十三日，即李自成到達平陽的這一天，蔡茂德在太原召集文武大員，還有陽曲知縣和地方官吏以及士民中較有頭臉的人物，共二百多人，到巡撫衙門後堂，麵對太祖朱洪武以及明室列祖列宗的牌位發誓，決心死保太原。因為形勢十分危急，蔡茂德慷慨陳詞，不覺痛哭，眾人跟著也哭。會議尚未開完，忽然聖旨到，宣布將他撤職，聽候勘問。
蔡茂德的親信幕僚們都知道太原必不可守，同時對朝廷的處置也心中不滿，所以勸蔡茂德趁此機會撒手不管，趕快躲出城外，等候新巡撫前來接任。蔡茂德堅決拒絕，說道：
“我已經決定以一死上報君恩，即令郭景昌來到，接了巡撫大印，我也陪著他死在城中。”
劉宗敏二月初五日到達太原城外，初六日上午立馬高處，指揮攻城。防守南關的二千陽和兵，幾乎沒有抵抗，就豎起白旗投降了。大順軍沒有繼續攻城，等待城中守軍投降，以期不戰而克太原。到了初七日，天氣很陰暗，守城的人心已經瓦解，眼看就會有變，蔡茂德趕快寫好遺表，隨即調守新南門的將領張雄防守南門。張雄離開新南門時，悄悄地對他的一個心腹小將說道：
“這東南城角的角樓裏邊藏的是火藥、火器。如今大勢已經完了，我一下城，你們就放火燒著這個角樓。大家投降了李王，找一條活路吧。”
黃昏時候，大風起來，飛沙走石，有的大樹都被刮斷了。張雄帶著少數親信，在昏暗的黑夜中縋下城去，向大順軍投降了。少頃，東南角樓起火，守城的人們在大火中各自逃散，守南門的兵士開了南門出降。大順軍一部分靠雲梯順利地登城，一部分從打開的南門和新南門擁進城內，其他的門也都被打開了。大順軍沒有經過戰鬥，順利地破了太原。
蔡茂德當時正好在西門附近，看見南門已破，慌亂中向北磕頭，將遺表交給他的一個朋友賈士璋，請他逃出太原，將遺表送往北京。蔡茂德歎息說：
“我學道多年，早已看破了生死。如今是我為國捐軀的時候了。”
他正要自刎，被左右人攔住，中軍副總兵應時盛催他火速下城：“請大人上馬！”
左右人將他扶上馬鞍，應時盛在前開路，到了燈市口，到處是大順軍，不能前進。應時盛叫道：
“快出西門！”
蔡茂德忽然下馬，對左右說道：“我應當死於此，諸君自己去吧！”
大家不忍將他丟下，又將他推扶上馬。到了水西門，他知道萬難走出，同時看出來有人想把他拉去投降。他怒目斥責：“你們是想陷我於不忠麼？”突然滾下馬來，坐在地上，不肯動了。
應時盛的家住在水西門外。他一路砍殺回到家中，殺了妻子，回頭來不見了巡撫，又殺回水西門內，看見蔡茂德左右的人都逃光了。他對蔡茂德說：
“大人，出不去了，讓我同大人一起為朝廷盡忠而死吧！”
蔡茂德顫聲說道：“三立書院，三立書院，快扶我到三立書院。”
蔡茂德既是王守仁學說的信徒，又是虔誠的佛教徒，不食葷腥，人們常稱他“苦行頭陀”，其實他是一個十足的迂夫子。他重視講學，曾重新修建三立書院，所以這時想起來選擇這個地方自盡。他們在混亂中轉了兩條小街，來到三立書院。大門敞開，看門的人逃走了。蔡茂德到了平日講學的地方，由應時盛幫他在梁上自縊。應時盛看見他的身體過於清瘦，上吊時身體飄蕩，擔心他不能立刻斷氣，徒然受罪，便脫掉自己的鐵甲，壓在他的兩肩上，然後應時盛也自縊了。
因為太原城是開門投降，所以大順軍進城後沒有枉殺人，也不許隨意進入民宅，不許放火、搶劫和奸淫。但是，因為城中婦女並不知道李自成的軍紀是什麼樣，所以當城破之時，還是有不少的人投井、懸梁而死。
李自成和劉宗敏有了破洛陽、襄陽和西安的三次經驗，都能夠事前做好準備，使大軍入城時紀律嚴明。尤其這一次是建立大順國以後第一次出師，第一次攻破省會，並且又處在大順國的全盛時期，人人都一心想著建國創業，所以對軍紀特別重視。
當天夜間，大順軍隻有李過和李岩率領的幾千人馬進城，占領了重要的衙門和全部八座城門，對於晉王府和晉宗室各郡王府以及鄉宦巨紳的住宅，夜間指派兵士看守，不許亂兵和壞人進去，也不許府中有人進出。李岩因為是奉旨破城後向饑民放賑，所以他的人馬大部分開赴晉祠駐紮，他自己隻率領了一千人馬，隨李過進城。整個進入城中的大順軍人馬，不到一萬人。餘者都駐紮在郊外。因為李雙喜查抄福王府時有了經驗，李自成、劉宗敏都很滿意，所以他奉命於黎明時候率領五百將士和幾十個能寫能算的文職人員進城，查抄晉王府和在城內的晉王宗室，以及各個巨紳豪富之家。
從這夜起就有騎兵沿街巡邏，敲鑼傳諭提營首總將軍的幾條禁令。天亮以後，劉宗敏率領一大群文武官員和五百騎兵進城，將布政使衙門作為自己的行轅。這時大街上和十字路口都張貼了以他的名義發布的檄文和大順國王的兩次詔書。這三通極其重要的文告，兩天來已經從太原的南邊和東邊射入城內，但是由於守城官紳們的禁止而被隨時焚毀，城市士民們無法讀到原件，隻是私下裏紛紛傳說。如今士民們知道，大順軍破城後確實紀律很好，堪稱古人所說的“王者之師”，又聽見巡邏兵丁的沿街傳諭，大家的心更安了。起初人們隔著門縫悄悄地向外窺探，隨後有平民小戶之家或膽子較大的人，開了半扇門，探出頭來。隨後有人走出，大膽張望，向鄰居們互相詢問。再後有地方保甲敲鑼傳呼，說：“大順皇上將在今天上午巳時整從大南門進城，百姓們要把街道打掃幹淨，準備香案，迎接聖駕，不可有誤。”也有地方要人親自對那些居住在深宅大院的人家敲門傳呼，惟恐這些士紳之家不曉得情況，誤了接駕的大事，惹出禍端。於是太原城中恢複了活力，突然間出現了改朝換代的景象。平民振奮，暗覺舒暢；達官貴人們且憂且懼，在等待著命運的安排。
從太原城的南郊開始，穿過南關，進入南門，通到巡撫衙門，家家戶戶紛紛打掃街道，用幹淨土填平了坑坑窪窪的街麵。能夠找到黃沙的，還用黃沙鋪地。每家門口都擺了香案，案上供著黃紙牌位，上寫著：“大順皇上萬歲！萬歲！萬萬歲！”
凡是粘貼有新朝文告的地方，都圍了許多人，識字的人們在看文告、念文告，不識字的人在用心聽文告。人們對李自成以皇上的名義發的那一通比較通俗的詔書和劉宗敏的檄文，不管是念是聽，都能懂得，總是不斷點頭，嘖嘖稱讚；至於李自成那一通文詞典雅的詔書，卻隻有少數有學問的人在搖頭晃腦地讀，有時不自覺地發出由衷讚歎，認為大順朝中有了不起的人才。有些從前認為李自成不過是一個“流賊”的人，讀了這通東征詔書，再也不敢有輕蔑之心了。
在夜間攻破太原的時候，李自成的心情十分激動，他冒著北風，立在黃色的禦帳外，遙望太原城，起初看見除東南的角樓在燃燒之外，南門上也有火光。後來火很快就被撲滅了，城中沒有喊殺聲，知道沒有巷戰，一切順利，不出他所預料。
依照軍師宋獻策擇定的最吉入城時間，李自成巳時整從南郊起駕，恰在巳時三刻，進入東邊的南門，名為迎澤門，取其方向吉利。牛金星和宋獻策率領大批從長安來的和沿路新投降的文臣，已先從西邊的南門即承恩門進城，隨劉宗敏一起，在迎澤門接駕。來迎澤門接駕的還有李過和李岩。沿路經過的街道，全都警蹕，禁絕行人。士民想瞻仰新天子風采的，隻能站在關閉的臨街門內，隔著門縫屏息偷看。李自成仍舊騎著他的烏龍駒。這匹戰馬不但依然雄偉，堪稱神駿，而且裝飾也不同了。鞍韉和轡頭全換了新的，鑲嵌著金銀和紅綠寶石，配著二龍獻珠的鎏金馬鐙。李自成騎在馬上，向前看，但見整齊的旗幟、騎兵、鼓樂、儀仗，還有一柄黃傘；向左右看，但見街兩旁的房屋，閉著的臨街大門，家家門口擺著香案，街兩邊每隔五丈遠，便有一個士兵平執利矛，腰挎寶刀，明盔亮甲，麵朝外，肅立不動。不但看不到父老們熱烈歡迎的情景，竟然連一個老百姓也不能看見。雖然在長安時候，就已經開始了令街道上的士民們在他經過時肅靜、回避，但是倘若有些百姓回避不及，或有心不願躲開，而希望偷偷地看他的人，隻要在街旁跪伏地上，偷偷看他也是常有的事。如今進入太原，警蹕的事竟然如此這般氣象森嚴，是李自成所不曾經曆過的。他想著，不如傳諭下去，讓百姓大膽地來到街上同他見麵，他自己原本也是窮百姓出身嘛。但隨即又一轉念，想起這是牛金星等按曆代帝王警蹕的舊製做的安排，就將閃在心上的念頭打消了。他又想到，自古以來，帝王之尊本該如此。有許多帝王是在繈褓中繼承祖業，世事不曉，尚且出入警蹕，何況他身應圖讖奉天倡義，出生入死，血戰了十六年才有今天！這麼想著，他的心潮就平靜了。