其實閻錫山身居簡陋逼仄的“菁山窯洞”，豈是“無怨無悔”？須知，“菁山窯洞”與閻錫山的山西故居相比，天差地別。閻錫山的山西故居，在他的故鄉河邊村。河邊村原屬山西五台縣，今屬山西省定襄縣。閻家原本是一座普通的農家小院。閻錫山的父親閻書堂略有錢財，曾經在五台縣城開設“積慶長”錢鋪。閻錫山的生母曲氏在他6歲時亡故，先由外祖母後由繼母陳秀卿撫養長大。陳氏無出（後隨閻錫山到台灣）。1900年，“積慶長”錢鋪破產，閻氏父子不得不到太原躲債。閻錫山因禍得福，翌年——1901年在太原考入了山西武備學堂。1904年他得以選送到日本陸軍士官學校留學，奠定一生騰飛的基礎。自從閻錫山成為辛亥革命的山西元勳，走上“山西王”王位，他便“光宗耀祖”，在老家建造豪華大宅。
閻錫山的山西故居，如今成為山西知名景點，遊客遠比台北“菁山窯洞”多。這個故居，曆時14年、耗資140萬兩白銀建成，建有都督府、得一樓、二老太爺府、上將軍府、穿心院、新南院等近30座院落，近千間房屋，在當時被稱為“民國第一豪宅”。至今仍存18座院落575間房屋。
山西故居分為東、西兩個花園。西花園是中式庭院建築，青磚灰瓦，飛簷鬥拱，抱廈回廊，東花園則有西式噴水池，可謂中西合璧。其中一座秀氣的小樓，供“五妹子”閻慧卿居住。
從“民國第一豪宅”到蝸居“菁山窯洞”，閻錫山心中可謂五味雜陳。在台灣，他可以說是一位“台漂”，毫無根基，飄零一族而已，何況還得時時提防蔣介石的暗箭。寄人籬下，閻錫山不能不收起鋒芒，夾著尾巴做人。
不過，跟“先我而死”的“五妹子”相比，閻錫山還算是幸運的。
閻錫山從“行政院院長”退下之後，閑人一個，倘若終日沉湎於往昔的榮耀之中恐怕氣也氣飽，愁也愁倒。所幸他及時調整心態，從事著述，竟然寫下20多本著作。
閻錫山早年就有寫日記的習慣。日記為藍皮紅色豎格宣紙本，毛筆抄錄。逃離太原時，他的1931年至1944年的日記共16冊遺留在太原。這些遺留日記，在2010年由山西省地方誌辦公室、山西省政協文史資料委員會主編，由社會科學文獻出版社公開出版。全書共60多萬字。
閻錫山就連寫日記，也很有個性。他曾經說：“記事是主觀的，記理是客觀的，記事是為自己留痕跡，記理是對人類作貢獻，我不願為自己留痕跡，願對人類有貢獻。”閻錫山寫日記，怎麼個“對人類有貢獻”呢？
據閻錫山日記研究者稱，閻錫山寫日記，“儼然一個學貫中西、自恃自律的思想者，對處人、處世、治政、理家均有一套心得”。“日記中不乏其精心總結的治政思想、用人經驗以及對政局國是的推測預見。”
閻錫山在日記中寫道：“施政，無論如何好的事，人民未經過，不能使之信。須周密的考慮，明白的講解，次第的推行”，“公務員做甚不務甚，對人民告說甚人民不信甚，教人民做甚人民不聽甚，焉能自強”，“雪亮聰明的人，不足以擔大任。一偏聰明的人，不足以任全事”，“今日非將一盤散沙的人民變成一塊膠石的人民，不能圖存”……據曾經擔任閻錫山秘書、留居山西、年近九旬的李蓼源老先生回憶，閻錫山的日記多數並非其本人親自書寫，而是由其口授，秘書記錄。內容大致可分為六類：一為重要事件的記載；二為重要信件的記載；三為重要文件的記載；四為閻錫山本人詩詞的記載；五為感懷、警句和論點記載；六為家事、政事、夢事的記載。
李蓼源說，1941年前後，年僅16歲的他曾一度負責記錄閻錫山口授日記。他回憶，閻錫山口授日記在時間、數量上均無一定規律，可能一天說幾段，也可能十天八天說一段。閻說出一段兩段，他便馬上記在本子上，然後讀給閻錫山聽，如沒問題，便交給謄錄秘書，用毛筆抄錄到專用的16開紅色豎格宣紙日記簿上。