“昔日田橫五百壯士，壯烈犧牲，我們有五百基幹，要誓死保衛太原。不成功，便成仁。”所謂“五百基幹”是指閻錫山“同誌會”的基本骨幹分子，當時在太原約有五百人左右。
據報道：
為了激勵軍心，當時閻錫山還特意向一名德國醫生魏爾慈谘詢，問德國納粹軍官在蘇軍攻克柏林時是如何自裁的。當他聽說在牙齒中暗藏氰化鉀毒丸，咬破後可當即斃命，就立即讓川至製藥廠試製，後來終於配製出五百瓶毒藥。閻錫山將它們擺放在自己麵前讓美國記者拍照，這張照片刊登在美國的《時代》雜誌和山西的《複興日報》上，他還把照片特意送給司徒雷登和陳納德等。
1949年3月28日，國共和談即將開始，與山西相關的條件需要閻錫山前往南京商定。當時蔣介石已經“下野”，“代總統”李宗仁致電閻錫山：
“和平使節將於31日飛平（引者注：指北平）。關於和談大計，深欲事先與兄奉商，敬祈即日命駕入京藉聆教益。”
閻錫山接到電報之後，在翌日召開要員會議，宣布了李宗仁的電文，表示“也許三天五天，也許十天八天，等和平商談有了結果，我就回來。”
閻錫山從河西紅溝機場飛往南京，到機場送行的隻有梁化之和五妹子閻慧卿。從此閻錫山離開了他盤踞多年的太原。當時，閻錫山並沒有帶閻慧卿一起離開太原，部下堅信閻錫山真的三天五天就會回來，因為在部下看來，倘若閻錫山一去不複返，必然要帶閻慧卿一起出走。
有人稱，閻錫山知道太原即將不保，於是示意在南京的親信徐永昌、賈景德等人向李宗仁建議邀他赴南京商討國事，使他得以冠冕堂皇地脫離太原險境。此外，閻錫山出走時，帶著繼母陳秀卿、妻子徐竹青以及黃金一起上飛機，也表明閻錫山此行乃是逃命之行。
不過此說受到質疑，因為閻錫山在南京會晤李宗仁之後，曾經在4月初乘飛機回太原並在太原上空盤旋了1個多小時，由於中國人民解放軍炮火封鎖河西紅溝機場無法著陸而隻得返回南京。毛澤東得知之後，當即指示太原前線的彭德懷、徐向前，閻錫山在南京期間，不要奪取飛機場，閻在太原，還有和平解決的希望，若閻不在太原，負責留守的閻錫山部將梁化之、孫楚等人恐怕直到最後也不會投降，隻會增加攻城的犧牲。但是梁化之在給閻錫山的電報中報告，河西紅溝機場遭到炮轟之後，已經無法起降飛機。
4月1日，國民黨政府和談代表團飛赴北平。
4月11日閻錫山飛往奉化拜見“下野”的蔣介石，蔣介石勸閻錫山留在南京。閻錫山遵命回到風雨飄搖的南京。
4月20日，北平和談破裂，戰局急轉直下。
4月21日，毛澤東和朱德發出了《向全國進軍的命令》。中國人民解放軍百萬雄師，在千裏長江分三路渡江作戰。
4月22日，閻錫山從南京逃到上海。
4月23日，中國人民解放軍即將發動對太原的大規模攻城戰役，太原告急。閻錫山深知，他的部屬沒有勝利的希望，戰必死。在這個緊急關頭，閻錫山雖說是軍閥頭子，畢竟還是動了惻隱之心。中午，閻錫山從上海致電太原梁化之、王靖國、孫楚、趙世鈴、吳紹之所組成的“五人小組”，亦即他離開太原時任命的領導核心：“太原守城事，如果軍事沒有把握，可以政治解決。”閻錫山所謂“政治解決”，亦即和平解決。據說這份電報首先交到梁化之手中，被梁化之壓下。當天深夜，閻錫山又以“留滬基幹會”的名義發去電報：“萬一不能支持，可降；唯靖國、化之兩人生命難保。”梁化之是閻錫山的姨表侄，是閻錫山的機要秘書，也是政衛處、特警處和諜訓處等特工組織的首腦，曾經是中共的死對頭。閻錫山所說的梁化之即便投降，亦“生命難保”，也正是梁化之負隅頑抗的原因。
也就在4月23日深夜，中國人民解放軍渡過長江，直撲南京；4月24日晨，中國人民解放軍先遣部隊直奔南京“總統府”，紅旗在“總統府”的門樓上高高飄揚。與此同時，解放軍攻下閻錫山老巢太原，梁化之等人自殺。正在上海的閻錫山得知在同一天裏連丟南京與太原，悲痛欲絕。太原之失，使“山西王”的根基傾覆，從此徒有虛名。
中國人民解放軍在占領南京之後，迅速進軍上海。