閻錫山的炮兵司令周玳曾說：“我們跟随閻錫山較久的人，都摸透了他的脾氣。他是‘錢鬼子’出身，算盤打得最精，總要把敵我雙方的力量，放在戥子上稱了又稱，隻有在自己的力量大大超過敵人的時候，他才會明白表示态度；不然，他照例是八面玲珑，決不貿然得罪人的。”
閻錫山再精明，算盤打得再好，在時代大勢面前還是一敗塗地。1949年12月9日，自知回天乏術的閻錫山去了台灣，開始了在台灣的最後10年生活。常言道，人在屋檐下不得不低頭，來到台灣的閻錫山再也沒了之前的威風，很快徹底告别了政壇。
正所謂無官一身輕，告别官場後，閻錫山帶着幾名貼身侍衛搬到了台北市郊陽明山附近的菁山。當時的菁山非常落後，原是日據時代沒有堅持的一處農場，這裡既沒有電，也沒有自來水，距離最近的馬路都要步行半個小時。
侍衛們實在看不去了，都建議閻錫山選擇一處交通便利之處居住，可閻錫山堅持己見。沒有房屋，就自己修建，剛開始是茅草屋，後來改為磚石房屋；沒有自來水，就挖水井；沒有蔬菜，就自己開辟菜園
閻錫山在日記中對最初的生活環境做了描述，“其地為廢耕之茶園，雜草及胸，道路坎坷，無電燈電話，飲用山泉，距山仔後公路步行三十分鐘，建築茅屋，從事著述，人以‘菁山草蘆’名之。”遠離鬧市，加上離開了政壇，來訪客人更是寥寥無幾。
閻錫山把所有的精力都放在了著書上面，為此留下近百萬的文字。晚年的閻錫山堅持“世界大同”的宇宙觀，他認為“一個人在為人處世，都需要發于仁，歸于中。發心是仁，但仁心要合于中道，不可偏斜。心中有仁愛，不要有什麼偏向不要脫離。仁慈善良的心，落腳點要變為一個世人所共同接受，服務大衆的一個公正公平的格局，這是非常有意義的。”
也許早已看淡了一切，閻錫山對生活要求也很低，一日三餐以饅頭青菜為主，偶爾加個雞蛋補充營養。其實閻錫山去台灣時，帶了足夠的黃金，完全可以過着比較奢華的生活，可他沒有是以揮霍無度。
也許是過于思念家鄉，他後來把房屋修建成山西窯洞的模樣，命名“種能洞”。1960年5月23日，閻錫山在台北病死，終年78歲。早在去世前很久，閻錫山就已經留下遺言，共有七句話：
一、喪事宜儉不宜奢；二、來賓送來的挽聯可收，但不得收挽幛；三、靈前供無花之花木；四、死後早日出殡不作久停；五、不要過于悲痛放聲大哭；六、墓碑上刻日記第100段和第128段；七、七日之内每天早晚各讀他的《補心靈》一遍。
閻錫山去世後，就葬在距離故居不遠處的山坡上。值得一提的是，閻錫山去世後他的侍衛都下山自謀生路，唯獨張日明自願留下守墓。如今張日明老人已經是近90歲的老人了，他說隻要身體狀态可以，每周都會來墓地前看看，就是自己去世了，也會讓孩子繼續來守墓。
參考資料：《閻錫山在台灣的最後十年》
閻錫山有五個兒子，長子和三子早夭，次子閻志寬也在二十歲時意外離世，留有一個妻子趙秀金；四子閻志敏是IBM的工程師，一直在美國居住，并死在了那裡；閻志惠是閻錫山的第五子。
閻志惠跟閻錫山逃往台灣後不久，就去了日本經商，因為他二嫂趙金秀就在日本居住。閻志惠從小受到二嫂趙秀金照顧頗多，是以跟她很親近，結果誰知道沒幾年，閻志惠卻愛上了趙秀金，還跟她結了婚。
後來閻志惠夫妻倆又移民美國，在那裡開過計程車，賣過保險，過得很是艱苦，1960年閻錫山去世時，閻志惠因為沒錢買飛機票，遺憾未能趕去台灣，送父親最後一程。
九十年代時，閻志惠曾孤身回過一次山西，他小時候居住過宅院，此時已經被改為閻錫山故居。閻志惠站在曾經的老家門口，默默地掏錢買了一張門票，進去轉了一圈，也算了了一件心事。
2011年3月25日，閻志惠在美國加州病逝，享年83歲。