1960年5月20日，蒋介石在台北庆祝他就职十二周年。觥筹交错的庆典上，宾客云集，却少了民国大员、卸任“行政院长”的阎锡山。
此刻，77岁的阎锡山因为重感冒和气喘，正躺在阳明山的木床上苦苦支撑。
深夜时分，阎锡山自感难受异常，仍不让侍卫叫医生，说是深夜不要打扰别人。但侍卫看到情况不好，还是紧急叫了医生。救护车来时，已是第二天中午，阎锡山被紧急送往医院。因为双腿已经无力行走，侍卫张日明用他平时晒太阳的藤椅把他送上了车。虽然医生乐观地表示可以安全到达医院，阎锡山还是在途中陷入了昏迷。当天晚上，阎锡山在台大医院去世。
阎锡山，生于1883年，山西五台人，29岁时即成为山西省都督，无论在袁世凯时期，还是国民政府时期，阎锡山都是不可动摇的山西王。他给山西留下了一个顺口溜：“山西有座大山，这座山就是阎锡山。”然而当年山西这座山，如今只剩下阳明山上的孤坟一座。
台湾当局为阎锡山举行了隆重的葬礼，在5月29日入殓之时，蒋介石亲自前往致祭，并送了一块上书“怆怀耆勋”的匾额，然而事实上，蒋阎之间终生并不亲密，猜忌与疏离，方是二人数十年功利交往的主题。
阎锡山死前，曾嘱咐其家属七点：一、一切宜简，不宜奢；二、收挽联，不收挽幛；三、灵前供无花之木；四、早日出殡，不要久停；五、不要放声大哭；六、墓碑刻他的日记第100段和第128段；七、七日之内，每天早晚各读他选作的《补心录》一遍。其日记第100段和第128段，分别写着：“义好为质，礼以行之，逊以出之，信以成之，为做事之顺道，多少好事，因礼不周，言不逊，信不孚，致生障碍者，比比皆是。”“突如其来之事，必有隐情，惟隐情审真不易，审不真必吃其亏。但此等隐情，还会是道理，一定是利害，应根据对方的利害，就现求隐，即可判之。”
遵照阎锡山的遗嘱，其亲属在灵前、楹柱以及院门内外上贴了数副他自己生前就写好的自挽联。一副是，“避避避，断断断，化化化，是三步功夫；勉勉勉，续续续，通通通，为一等事功。”还有一副则是：“摆脱开，摆脱开，粘染上洗干净很不易；持得住，持得住，掉下去爬上来甚为难。”贴在院中的为：“有大需要时来，始能成大事业；无大把握而去，终难得大机缘。”横幕为：“公道爱人。”贴在院门上的为：“对在两间，才称善；中到无处，始叫佳。”横幕为：“循中蹈对。”
几乎所有人都对这两副挽联感到惊诧莫名，有人说，阎锡山一生喜弄玄虚，临终前还留此千古一谜。不管是因为现实困境还是真正的人生顿悟，晚年的阎锡山已经远离了当年那个叱咤一方的山西枭雄，少了诸多锋芒，多了一些无可奈何的镇定和凄凉。
少年得意
阎锡山出生于一个以经商为主的小地主家庭。9岁入私塾，读四书五经，这些传统教育给阎锡山的一生都留下了印记。14岁辍学后，阎锡山跟随父亲阎书堂到五台县城内自家开设的吉庆长钱铺学经商，按现在的话说，就是一种很小的银行，参与放债收息及金融投机。父子两人的商业活动虽然遭遇惨败，却为阎锡山后来的从政之路积累了原始经验。据说，这个黄口小儿经常向父亲提出经营的建议，让父亲另眼相看。
18岁时，他被村里人推举为“纠首”（相当于村长），以应对义和团运动。因为没有经费，他私下取用继母陈太夫人的首饰出售，继母并没有因此责怪他。于是乡间传出“母义子勇”的赞誉。
19岁那年，阎锡山突然对父亲说：“凡人从士农工商贾，毕生思虑所及，辛苦所得，多不出家室之谋、钟釜之计。况商复难有成，而易致败，父亲知能虽同，而事多困厄，儿不如父，曷能有望。窃意欲有为于时，有益于世，若不继续读书，多求知识，无以自了，遑论其他。”
1902年，在太原当店员的阎锡山，考入了山西武备学堂。在求学过程中，成绩优异，特别是作文为全班120人之冠。1904年，清廷命令山西巡抚选送公费生20人到日本学习军事，这些人分为中央派遣和省派遣两种，阎锡山因为两门功课均为全班第一，成为唯一一名中央保送到日本留学的人。他先入东京振武学校，毕业后入日本陆军士官学校第六期。从当时的照片上看，日本士官学校的第一批中国留学生共有59人。
阎锡山出国前，山西巡抚谆谆告诫说，朝廷出钱保送你们读书，应当专心学习，以图报效，万不可接近革命党人，听信邪说，误入歧途。
朝廷万万想不到的是，他们出钱培养的，正是他们的掘墓人。
当时同在日本的李宗仁回忆对阎锡山的初次印象时说，貌不惊人，显得无才无德，学习不过中庸。李宗仁显然低估了这位19岁的同学。
当时，孙中山在日本倡导革命，阎锡山经常前往聆听，大为赞同。1905年7月，阎锡山加入同盟会，并加入了核心组织“铁血丈夫团”。[1]
1907年，尚在军校学习的阎锡山遵孙中山之令，和朋友赵戴文由东京携炸弹回山西布置革命工作。到上海时，得知海关检查极严，阎锡山就将赵戴文所携炸弹集于己身，并对赵戴文说：“如被检查出来，我一人担之，你不可承认是与我同行之友。检查时，我站前列，你站后列。”赵戴文不解，问：“我站前列，你站后列如何？”阎锡山答：“站后列有畏惧检查之嫌，易被注视，仍以我站前列为宜。”果然，海关检查人员检查前面的人松懈，检查后列较为严格。阎锡山事后说：“事到危难宜放胆，不可畏缩，畏缩易使人怀疑。”
同盟会在东京时，将中国革命任务分为江南和江北两部分。理由是江南距离北京遥远，北京援军不易到达，同时南方多出海口，容易得到武器和外国援助。孙中山给阎锡山的任务是“江南的革命军进攻到河南时，山西出兵石家庄，接应革命军北上”。
这是阎锡山被正式推上政治舞台的序曲。
1909年，26岁的阎锡山毕业回国，当年11月奉召赴京参加陆军部举办的留日归国士官生会试，考列上等，被赏给陆军步兵科举人并授予协军校（相当于少尉）的军衔，几个月之后即升任山西新军第四十三协第八十六标教练官与标统（相当于上校团长）。在此前后，阎锡山已经通过秘密活动，基本上把山西新军的领导权掌握在同盟会员和革命同情者的手中。
1911年10月10日，革命军于武昌起义，阎锡山等不及革命打到河南，就在太原举行了起义。原因有二，一是山西巡抚陆钟琦的儿子陆亮臣作为阎锡山的日本军校同学，专程到山西劝阻他不要起义，如果起义也要由山西巡抚陆钟琦做领导。阎以决不响应革命搪塞，但内部加紧准备。二是陆钟琦将山西库存的5000支德国造步枪借给河南3000支，同时调兵防备太原起事。
事不宜迟。10月29日，阎锡山亲率山西起义军攻入城内，冲进巡抚衙门。只见陆巡抚和其子陆亮臣衣冠整齐，立于大堂楼前。陆亮臣说：“你们不要动枪，我们好商量。”陆钟琦说：“不要，你们照我打吧”顿时，陆巡抚与公子均死于乱枪之中。
多年之后，阎锡山说他本来是准备扣留陆巡抚和其公子，不加伤害的，但因为陆巡抚的侍卫开枪，他们才还击。事实上，起义军在此之前已经枪杀了协统（旅长）谭振德，开枪在前。
起义成功，山西成立军政府，山西各界公推阎锡山为都督。这一天，恰巧是阎锡山的生日，后被称为太原光复纪念日。这是阎锡山“山西王”的起点，大概也是阎锡山一生中最光彩照人的一页。
那一年，阎锡山29岁。
1912年9月，孙中山视察太原时说：“去岁武昌起义，不半载竟告成功，此实山西之力，阎君百川之功……使非山西起义，断绝南北交通，天下事未可知也，不惟山西人当感戴阎君，即十八行省亦当致谢。”既当上都督又获得如此评价，阎锡山是国内唯一一人。
从此，山西在阎锡山的掌握中度过了38年。
加入同盟会，对阎锡山而言，一方面是对革命的真诚向往，另一方面也是折服于孙中山的个人魅力。1911年春节，阎锡山当上都督后第一次回家过年，虽然属下制订的计划里包括庞大的随从队伍、礼品物件、崭新的军服、笔挺的洋服、30多辆大小车马，等等，阎锡山最后圈定的却是一辆美式吉普、两名没有家的士官和一名司机，其他均为自备。到了村头的时候，阎锡山下车，换上外祖母亲手缝制的衣服，步行回家。
阎锡山对此的解释是：“孙先生常说，民为本，我为仆。我岂能以严威慑于父老乡亲；苟能蔽令伯之忠孝，子厚之谦恭，有德于百姓，则伯川可少过矣！”“下车换服步行进村”这一习惯，阎锡山一直坚持到离开大陆。
与蒋介石的恩怨情仇
阎锡山是个非常讲原则的人，这个“原则”不是别的，而是他的利益。
为了掌控山西，他甚至对他捧为世界圣人的孙中山也能不管不顾。
袁世凯掌权后，加紧实行中央集权，为了遏制阎锡山，他派了一个旗人去山西成立了警备队，与之抗衡。阎锡山为了不让袁世凯起疑，忍气吞声裁减了自己的军队。
1913年，孙中山领导二次革命，发起了讨袁战争。为自保，阎锡山按兵不动，仅呼吁双方和平解决。1915年，袁氏称帝，阎锡山列名北洋系将军联合拥袁称帝的密电中，被袁世凯封为一等侯。当年12月，蔡锷于云南起兵反袁，阎锡山明确表示反对。一直到袁世凯病逝，阎锡山对他从未逾越。
段祺瑞掌权后，与孙中山成立的广州护法军政府发生战争，阎锡山竟然派军到湖南支持让他当了山西省省长的段祺瑞。
这样一个人，与蒋介石的关系自然不会好到哪儿去。他们之间，因为没有涉及任何私人情感显得格外冰冷，政治局势的变化，是二人关系是礼是兵的唯一原因。
1926年7月9日，蒋介石就职国民革命军总司令并誓师北伐。阎锡山加入直奉联军与国民军作战，一度还当了安国军副总司令。看到北伐军势力大涨，阎锡山派人谒见蒋介石，表示愿意加入国民革命军。蒋介石任命阎锡山为国民革命军北路总司令。第二年6月，北伐军占领郑州，阎锡山通电拥护三民主义，改悬青天白日旗，被任命为国民革命军北方总司令，后改称第三集团军司令，统兵20万人。
阎锡山协助蒋介石取得北伐胜利后，成为坐镇华北的重要人物。
北伐完成，蒋介石以全国兵额太多，素质不齐为由，欲减裁军队。此事引起阎锡山的疑惧，为了防止坐以待毙，阎锡山联同冯玉祥、李宗仁另组国民政府，引发中原大战。由于张学良的支持，阎锡山大败，通电声明“释权归田”，避居大连。而蒋介石则在全国通缉阎锡山。
中原大战爆发时，美国《时代周刊》将阎锡山作为封面人物报道。时代周刊说：“他是一位真正的和平军阀，这是他多年来的第一次战争，因此，上周公众的兴趣与同情，都集中在这位伟大的、长满胸毛的、操着浑厚嗓音的阎元帅身上。作为山西省的‘模范督军’，阎实际上耸立在一个独立王国之中。目前，尽管晋西南地区还存在粮食短缺，但阎为1100万人带来了繁荣，在中国他们最为富裕，因而，这使他显得出类拔萃。他的嗜好不是女人、酒、鸦片，甚至也不是金钱，而是优质的道路、纺织、防御部队、维持秩序的警察，发展优良的牛、马、耕具、家禽、肥料——所有能为他的乡亲带来好处的事物。”
九一八事变之后，蒋介石在全国团结抗日的呼声下，不得不与各种反对势力言归于好。1931年12月，在国民党第四次全国代表大会上，阎锡山的中央执行委员身份被恢复，再掌晋绥军政大权。这段时间的蒋介石与阎锡山每每通信，均称阎为“伯川大哥”，而阎锡山则是一律的“委座钧鉴”，其间亲疏立现。
1943年秋天，蒋介石曾到西安，电邀阎锡山去陕会面，但阎锡山托词拒绝，并回信称：“委座钧鉴：闻钧座北来，山本拟力疾前来面陈种切，无奈入秋以来，疾甚重，未克如愿。今特派赵总司令印甫、王总司令治安代山前往晋谒，面陈此间情况，请予指示为祷。敬请钧安。阎锡山。”其傲慢睥睨，可见一斑。
虽然身为国民党中央委员，阎锡山对于蒋介石在山西发展力量始终心存疑虑。事实上，权力顶峰时期的阎锡山对任何人都丧失了信任。其秘书曾撰文说：“阎当时不让干部靠近国民党、三青团，又害怕干部是共产党，防范极严。”
20世纪30年代，阎锡山开始建立自己的政治组织，到抗日战争开始时大都结束。1938年2月，他重新成立了民族革命同志会，用以团结干部和保证自己政令的推行。1939年“十二月事变”以后，他强化组织领导：把组织放在“组政军教经”各个部门之上；在所有基层单位都建立同志会的分会；要求军政干部和中学以上学生都必须参加同志会；各地都建立组政军教经统一领导委员会（统委会），由同志会的干部委员会担任主任；而他自己则以同志会会长的名义进行领导，开大会必呼“会长万岁”“忠贞会长”等口号，以树立组织（政党）和领袖的绝对权威；同时规定严酷的纪律（最高处分为自裁），来约束和统一部下的行动。此外，还建立了“铁军”“文人组织”“青帮”和“洪帮”等外围组织。
1945年10月，日本投降后不久，阎锡山曾回太原过62岁生日，他自己特选了数篇长文，打算编入《革命动力》一书，分赠各组政军教经人员，其在一篇中写道：“我的政治主张是为民爱民主张公道的”，然而却被秘书误写为“共产党的政治主张是为民爱民主张公道的”。阎锡山发现后当然震怒，他先是表示将秘书“秘密处死”，随后因为负责执行的人难以下手，阎锡山又写了一个字条，上书“熬刑”，意为以刑迫死。
残酷而冷血，暴戾而乖张，是阎锡山留给世人最为深刻的印象，1942年与1943年间，阎锡山成立了“活炸弹队”，凡不利于他的人，就派“活炸弹队”成员跟踪将其打死。而被国人熟知的刘胡兰，也正是死于阎锡山部队之手。但与此并行不悖的却是，他曾在山西颁布《人民须知》和《家庭须知》，其核心是儒家思想。阎锡山甚至整理村政，对贩卖和吸食毒品、窝娼、聚赌、偷盗、斗殴、游手好闲、忤逆不孝等坏人进行感化教育和处罚——童年所受的传统儒学教育与以独裁者身份雄霸山西数十年的身份重叠交织，阎锡山渐渐成为一个难以言说的复杂存在。
抛开接受传统教育的影响来说，阎锡山主政山西近40年时间采用的一直是其根据自身经验结合所受教育得来的实用政治理念。他反对马克思主义，但借用了马克思主义中他可以接受的理论，创立了物产证券与按劳分配的学说，简称物劳主张。他反对金代值，即反对以金银为本位的货币制度，主张发行物产证券，收多少货发多少物产证券；反对资私有，反对资产生息，主张资由公给，实行按劳分配。他用这些带有社会主义色彩的主张来团结干部和群众。
同时，他大兴工业强化经济。太原兵工厂是其立足山西38年不倒的有力保障。同蒲铁路、西北实业公司以及整顿山西省银行，则确保当时社会安定，经济繁荣，物价稳定。阎锡山还开设各类学校，除去普通类还包括培养军官和行政干部的军校和训练机关，这些机构培养出来的人才，在20世纪20年代中后期以至40年代，都成了阎锡山军政干部的骨干。
这就可以理解其在山西实行的村治思想，同样也可以解释自民国时期至抗战结束后，他对日本人的不同态度。
“在三只鸡蛋上跳舞”
粗粗看去，阎锡山似乎是肉墩墩的一个土财主，脑子里除了油水，没什么别的东西。但不要忘了，这可是放债人的儿子，按现在的说法，那叫高级金融人才，头脑是极精明的。他在自己的坟前塑一个大大的“中”字，除了表明他的人生哲学，恐怕还有几分夸耀与自得。
在他看来，生存是第一位的。没有了生命和权势，他就没有了一切。“只要能存在，以后怎么转变都可以。”
生存是需要智慧的。要生存，就要妥协，就得让步，就得搞平衡。
阎锡山这一生，拥蒋也反蒋，联共也反共，抗日也通日，自称是“在三只鸡蛋上跳舞”。抗战期间，他曾在一次会议上对他的干部们说：“现在一等聪明的人在共产党；二等聪明的人投了日本人；在座的诸位是三等聪明的人。”
鸡蛋是圆的，本身是站不住的，他却能在三只鸡蛋上跳舞，既要舞步翩翩，又不能踩烂了鸡蛋，这得多大的能耐呀。想来阎锡山自己并不把自己看作三等聪明的人。
远的不说，就说抗日战争时他与日本人玩的把戏，就足够令人眼花缭乱的了。他是真情假意，还是权宜之计；是骗取日本人信任，还是真想投敌，谁也说不清。他玩弄的手法，围绕的是一个中心：“存在就是真理。”
阎锡山与日本人的关系，是剪不断，理还乱。中原大战战败，这位日本军校的毕业生逃到大连，是日本人为他提供了庇护，也就在大连，他知道了中日之战无法避免。
1935年后，日军开始侵犯阎锡山的势力范围绥远，并在山西屡造事端，对阎构成极大威胁。因此，时任第二战区司令长官的阎锡山提出“守土抗战、自强救国”，由联日反共转向联共抗日，并默认了共产党人和其他抗日人士组成的“牺牲救国同盟会”。他与傅作义部队联手抗击日伪军对绥远的进攻，挫败了日寇建立“蒙古帝国”的图谋。
西安事变后，中共军队受编为第八路军（旋改为第十八集团军），奉命归阎锡山节制。八路军在1937年8月进入山西，与阎锡山部队协同，取得了平型关大捷，歼灭日军千余人。但在此后，阎锡山发现八路军并不听他指挥，而是听延安的，他们深入太行山，建立根据地，对阎的统治构成了威胁。于是阎锡山玩了一个把戏，以改编新军为名，清除共产党，结果遭到共产党的坚决反击。这次冲突，新军的33个团脱离了阎锡山的掌控，成为共产党的部队。
此时，日军与阎锡山的军队一直处于交战状态。
对于信奉围棋文化的日本人来说，与中国作战，不战而屈人之兵是上上策；一子定乾坤，毕其功于一役，是上策；分化瓦解，招降纳叛，软硬兼施是中策；全面开战，瓶瓶罐罐都打烂，是下策。上上策是梦想，梦想只能在梦里实现。上策被事实证明也不行。中策似乎还有些效果，溥仪当了儿皇帝，汪精卫集团叛国成立了伪政权，在华北五省搞了“自治运动”，使日军兵锋可直指不愿投降的蒋介石。
在此背景下，日本天皇亲自批准了对阎锡山的招抚工作。
阎锡山抗日，既有民族大义，更有保护自己地盘的意思。但放进来八路军，又让他后悔莫及。
太原会战，他联合八路军与日军厮杀，结果不到两个月，损兵十余万。日军进攻太原时，只用了五天就破了城，把阎锡山逼退到了晋西山岳地带。在那里，他又与八路军为敌，结果偷鸡不成蚀把米，昔日让他成为抗战名将的牺盟会、决死队、战动总会站到了八路军一边，他的嫡系部队六十一军、十九军、独八旅、骑一军等部，一蹶不振。第六集团军总司令陈长捷、孟宪吉投靠了蒋介石，还有几个将领被俘后投敌。此时他名为第二战区司令长官，手中仅剩几万兵马，时时让他不寒而栗。
因此，与日军停战，也是他巴不得的事儿。
因此，双方一拍即合。
阎锡山字百川，号龙池。日军招降阎锡山的行动最早由阎宜亭牵线，他称阎锡山为“伯”，日军遂决定以“伯”字为代号展开行动。
“对伯行动”最早在1939年开始，是由日军第一军司令官筱冢和参谋长田中隆吉策划的。筱冢谢任后，继任者岩松义雄中将和参谋长楠山秀吉少将继续此项工作。
1940年11月，阎锡山委派第七集团军总司令赵承绶与日军密谈。据赵承绶回忆，临行前阎锡山交代说：“目前咱们的处境很不好。蒋介石借抗战之名消灭咱们，不发给咱们足够的经费，也不给补充人员和武器，处处歧视咱们，事事和咱们为难。共产党对咱们更不好，到处打击咱们，八路军在山西各地有严密的组织，把老百姓都拉过去了。如果日本人再打咱们，那就只有被消灭。咱们如果想在中国求存在，非另找出路不可。存在就是真理。只要能存在住，以后怎么转变都可以。权衡情况目前只有暂借日本人的力量，才能发展咱们自己，这是一个不得已的办法，也是咱们唯一的出路……你这次去，主要是商量四点，也就是四句话，即‘亚洲同盟，共同防共，外交一致，内政自理’。前三句对日本人无害，他们也希望这样做，会同意。第四句可能有争执，一定要争取做到。如果内政不能自理，老百姓就不会相信咱们，不跟着咱们走，咱就不会有力量，那就谈不上和他们（日军）合作了。这四句话，前三句是咱们迁就他们，后一句要求他们迁就咱一点。如果要求咱像汪精卫那样，我是绝对不干的。”
对这位土老财来说，气节与尊严这类事，必须考虑，但肯定要放在利益之后。
从1940年到1945年，阎锡山方面与日军会谈大约有六次，阎锡山亲自到会的有三次，双方签订了一些见不得人的密约。
第一次会谈是1940年11月在山西孝义县白壁关村。日军来了一个少将楠山秀吉和一个伪省长苏体仁，阎方全权代表为第七集团军总司令赵承绶中将，日方提议取消敌对状态，互相提携，共同“反共”。赵承绶原则上同意，但提出要地盘要枪。双方同意请示上级后再谈。
第二次是1941年8月8日至11日，阎、日代表在山西省汾阳县城内会谈。日方代表日本华北方面军参谋长田边盛武中将和楠山秀吉等人，阎方代表仍为第七集团军总司令赵承绶，田边盛武是南京大屠杀的主要实施者之一，战后被处死。他亲自出面，表示了日方的诚意。于是，双方签署了《日本军与晋绥军基本协定》。
如果按这个协定的规定，阎锡山必然是不折不扣的大汉奸。
协定的开篇就说：“本共存共荣建设新东亚之目的，晋绥军与日本军成立停战协定，与南京政府（汪精卫伪国民政府）合作。”“阎锡山先任南京政府副主席及军事委员长。将来适当时机任华北行政委员会委员长及华北国防军总司令。”
双方商定共同“剿共”，合作一旦实现，日军供应阎军步枪10万支、轻机枪8000挺、重机枪900挺、掷弹筒4000个、各种炮300门及所需之各种弹药。等山西共军肃清后，南京政府更供给下列武器及其他所需之弹药、汽车、步枪10万支、轻机枪8000挺、重机枪1800挺、掷弹筒2000个、其他炮300门。军费每月由南京政府支给1200万元。
在签署《日本军与晋绥军基本协定》的当日，楠山秀吉和赵承绶又签订了《停战协定》，约定双方互为友军，彼此合作，自即日起停止一切敌对之战斗行动。
1941年10月，阎、日双方又在太原举行“防共协定实施细则”的谈判。10月初，赵承绶到太原，在东典膳所1号成立办事处。日军第一军司令岩松义雄与赵承绶正式会见。赵要求日方先拨给阎武器装备，日方则坚持要阎先通电脱离重庆政府。赵在太原滞留三个月，事情一直没有什么进展，因此他确认日本人“没有诚意”。回来向阎报告说，从商谈过程中的情况看，日方是诱降，不是合作。
阎锡山决定改变策略，对日方采取观望态度。
尽管日本天皇急切地希望阎锡山被招抚，但由于双方互不让步，结果一无所获。
为了迫使阎锡山就范，日军一面威胁要对其流亡政权进行围攻，一面要求再次会面。1942年2月6日，岩松义雄在致阎锡山信中亦写道：“为长官着想，尽早实现合作有四利：甲、免除来自中央、中共的威胁；乙、得到自主能力，例如武器、粮秣及兵源补充等；丙、得以恢复经济力量，例如收回西北实业公司；丁、从南京政府及北平政委会能取得军事、政治及充分的实力。”岩松义雄还说，“我等敬服汪精卫氏不顾如此不利之环境，和日本苦乐与共，从事大东亚建设之气概，而遗憾者乃阎将军之周围缺乏如是者。”
威逼与利诱，迫使阎锡山亲自出马，与岩松义雄等举行“安平会议”。1942年5月6日，阎锡山一大早就来到了山西吉县安平村。
这个地点，是阎锡山亲自选定的。安平村距阎、日双方防线各30华里，“安平”是阎锡山临时起的名。据赵承绶说，阎锡山十分迷信，认为这次和日方会面，很有危险，把这个村庄命名为“安平”，又在“吉县”境内，是个“吉庆平安”之兆。
阎锡山事前布置警卫总队和一个团警戒，到达村庄后，看到日本方面也布置了警戒部队，他率领赵承绶等人，由警卫总队掩护，先到会场。不久，日军第一军司令官岩松义雄、参谋长花谷正、华北派遣军参谋长安达十三、驻临汾的清水师团长清水中将、特务首领林龟喜和高级参谋人员到来，阎锡山和日本人一一握手，日军随军记者纷纷拍照。
接着，阎锡山首先发言。赵承绶回忆说，阎发言大意是，“亚洲同盟是中、日两国的共同利益，亚洲人愿意推日本做‘盟主’，我本人也拥护日本做‘盟主’，但日本人必须领导亚洲人做愿意做的事情，才能当好这个‘盟主’。中、日合作是互相需要，要本着共同防共、外交一致、内政自理的原则办事，尤其是内政自理更要紧，否则中国人民就会对合作有考虑。请日方表明对中国究竟将采取什么方针”，等等。阎锡山每讲一段，由苏体仁的女婿杨宗藩翻译一段，占的时间很长。日本人听得不耐烦起来，花谷正说：“我们是来开会，不是来听讲演。”岩松义雄不等阎锡山把话全说完，就接过去发言，大肆宣扬一番日本在太平洋方面的胜利，促阎锡山立即“觉悟”，早日通电履行“汾阳协定”条款，希望阎锡山认清当前形势，相信“大东亚圣战”有必胜把握，要阎锡山立刻脱离重庆政府，参加“大东亚共荣圈”，勿再犹疑。并表示如果阎锡山马上表示态度，可立刻交付现款300万元，步枪1000支。至于“汾阳协定”里所答应的一切，可以陆续交付。
岩松的发言，盛气逼人，但阎锡山并不买账，低首安坐，一副木讷表情。虽然双方约定会谈不必当场答复，但日方还是催他表态，阎锡山说：“凡事都要有个准备，现在一切还没准备妥当，通电还需要相当时日。最要紧的是力量，如果日方能把‘汾阳协定’中答应的东西先行交付，装备起力量来，能对付了共产党的攻击，就可以推进到孝义去。”
第一军参谋长花谷正听到这里，极不耐烦，蓦地站起来说：“珍珠港一战，美国被日本一下子打垮，蒋介石更不在话下，阎阁下和日本合作，对你自己有利，也正是时候，观望没有什么好处，最好马上跟我们回太原去。”
这些话让阎锡山十分难堪，他眉头皱起来了。
于是，伪省长苏体仁建议“暂时休会”。
这时，阎锡山的警备队得到报告，发现日本人的许多骡马向安平村前进。可能是开来炮兵。阎锡山听闻，有惊惶之色。警卫总队长雷仰汤说：“赶快走吧，这房子后边有一条小道可以出去。”于是，阎锡山不辞而别，由小道撤走。
安平会议以失败告终。
事后，日方将岩松义雄与阎锡山握手的照片洗印100多张，用第一军的飞机运到重庆上空散发，以离间蒋介石与阎锡山的关系，但似乎未收到任何效果。
岩松中将因“对伯工作”毫无起色，上司追究责任，被调任离开，由其后任吉本中将和参谋长花谷正继续对阎锡山诱降。
这时候，一位前日军高级参谋人员来到了山西，他的身份是山西产业株式会社社长。吉本中将大喜，直接将策反阎锡山的重任交给了此人。
此人名叫河本大作。河本瘦削而整洁，西装革履，礼数周到。从外表看，根本看不出他是个狂热的军国主义者，有一肚子的英雄梦想。他是1928年“炸死张作霖事件的首谋”，也是1931年日本发动侵华战争的九一八事变的策划人。河本大作初小毕业的时候，正是甲午中日战争爆发那一年，胜利的捷报不断传来，河本大作立志成为民族英雄，在军界以狂热激进闻名。炸死张作霖后，河本大作受到处分，离开了军界，再次来到中国后，主要从事经济掠夺和特务活动。
接受诱降阎锡山的任务后，他写了封致敬信，买了两篓苹果托人给阎送去。一个月后，送信人带着阎的复信和一匹丝绸回赠，阎表示“希望将来能互相合作”。
河本大作果然有些手段，他征得阎锡山和日本第一军的同意后，成立了“三委员会”。既政治委员会、军事委员会、经济委员会。日军和阎锡山各派大员参加，三委员会办公地点设在太原东华门19号第一军司令部公馆。
三委员会的任务大致如下：
一、为加强对中共的政策，日军占领区的15名主要县长由阎锡山指定，经三委员会任命。
二、阎军向日军占领城市派遣特务，由日军安排到各工厂、矿山，以摧毁共产党的地下组织。
三、双方共同防止中共军队进入防区。
四、日军无偿向阎军提供弹药和山炮，日军向共军进攻时，须听取阎锡山派来的县长的意见。
五、双方共同担负对中共地区的经济封锁。
1944年5月，为了让阎锡山当上华北政务委员会的委员长，河本专程回国面见东条英机。不巧的是，东条英机出访缅甸，他没能如愿。
河本想见东条，还有一个说不出口的原因，他探知阎锡山不想以第一军司令官为谈判对手，希望日本方面能提高规格，让阎锡山直接与日军驻中国总司令畑俊六交涉，让阎锡山得到掌握华北军事政治的实权，从而拖阎下水。他还承诺，如果阎锡山答应下来，将来他一旦回到太原，日、阎双方可以共同管理太原附近各厂矿，并将阎锡山原来投入各厂矿的资本所有权交还，作为阎方的股本；日方在占领太原后新增加的资本归日方所有，双立实行“经济合作”，共同组织“董事会”管理。
看得出来，日军在“对伯工作”上是用心用力的。然而，此时，“二战”的形势已经对日本不利，阎锡山这根老油条，岂能看不出门道？
到了1945年6月，日军第五次与阎锡山会面时，双方关系已经颠倒，阎建议日方先向中国“讲和”，自愿居间联系，向蒋介石说情可保存日军实力。
1945年8月初，日、阎双方在汾阳村的司马村举行了第六次会谈，协商交接太原的措施与步骤。日军命令所部，一切武器、物资和设施交国民党军，不许交给八路军。“如果将武器交给八路军，将依法惩处。八路军若强行收缴，可以武力抵抗。”
驻山西的日军第一军得知八路军试图进入太原，立刻命令所属部队进入阵地，阻止八路军接收太原。参谋岩田清一说：“日军的意图是必须阻止八路军接收太原，要命阎锡山速来太原，接收第一军所属部队和警备地区。”
8月末，阎锡山回太原，日军第一军参谋长山冈道武亲自到平遥远迎。阎锡山在第一军直辖特务队樱部队的护卫下乘汽车进入太原城，十分威风。在车中，阎锡山问并肩而坐的山冈道武：“不能将这样的部队给我吗？”山冈答：“可以考虑。”
阎锡山重掌山西后的第一件事，就是想把驻山西的日本军改编成自己的部队，让这些血债累累的日本军人留下来，与他一起打击共产党。这样一来，过去日、阎会谈时的熟人又发挥了作用，阎锡山指名他认为反共坚决的日本军人来当谈判代表。参谋岩田清一就被阎指名为第一军谈判代表，招与阎军关系密切的日军顾问辅佐官当翻译。
阎锡山提议，第一军全部改编为自己的部队。岩田清一说：“日本军是天皇的军队，所以不能只按司令官的意志办事，但是可以用适当的方法满足贵方要求。”
经过一周谈判，双方达成如下方案：
一、日军调查志愿加入阎军的官兵，以“就地复员”方式，使之成为“复员完毕”的个别人，阎军再以“个别人”方式组建日本人军队，纳入阎军的指挥系统。
二、阎锡山方面对参加阎军的日本军人给予优待。
三、在日本军主力滞留山西期间负责训练阎军。
日本军人“残留”山西的目的多种多样，但主要骨干是一些军国主义分子，他们想借助阎锡山，在山西保留一支强大的日军，以图日后。为了动员日本军人“残留”山西，他们印发给下级官兵的文件说：“今天的日本，由于美军的占领正在成为日本人的监狱，值得庆幸的是我们现在身在中国……我们可以在这里培养和教育为祖国独立而战斗的日本人，必要时把他们派回国内，在日本国内开展独立运动……从外部去打开牢门。”“战后中国已成为亚洲的主要力量，对于日本有很大的发言权。我们有条件借助中国的援助复兴祖国……凡希望祖国独立复兴的爱国志士，都应残留山西，与阎锡山携手合作。”
在日军高级军官和阎锡山的劝诱下，第一军约有4500人残留山西（后陆续遣返1000名）。河本大作的西北实业公司里，有500人决定留下。其中，日军第一军的司令官、参谋长、驻长治旅团长、驻运城旅团长、驻原平炮兵上校等人全部留用（两个中将、三个少将），还有许多日军的军事骨干、通信、炮兵、医疗等有一技之长的人员也被留下。
一位名叫赤星久行的少佐担任过坦克大队长，岩田请求阎锡山将赤星定为“战犯”，派宪兵将身在天津的赤星“逮捕”，带回太原。然后收集日军坦克、装甲车，成立机甲队，让赤星当了司令。
战败之人不免思乡，为了阻止这些军人回国，阎锡山还给钱给政策，给予优厚待遇。一是一律晋级；二是发放家属津贴（包括在日本的家属）；三是给日本国内家属汇款：将官20美元、校官15美元、尉官8美元。
这些残留的日本军人全部跟随阎锡山参加了国共内战。他们换上了国民党的军服，有的还起了中国人的名字。
内战初期，残留山西的日本军人主要负责训练阎锡山的军队并指导作战。第一军参谋长山冈担任军事顾问，办公室就设在阎锡山办公室的隔壁。后来，解放军攻势日紧，日本兵不得不冲上一线担负重要作战任务。
残留日军认为，只要他们上阵，八路军就不在话下。可是，今非昔比，在与解放军的作战中，他们伤亡惨重、内讧不断。在孝汾战斗中，机甲司令赤星负伤；在阳泉作战中，约300名残留日军全部被俘。由于战斗人员不断减员，日军还派人回日本招募志愿者，但无人响应。
1948年6月，阎锡山的六十一军与徐向前带领的解放军主力在平遥激烈交火，深感不妙的阎锡山终于下令，命以残留日军为主的“暂编独立第十总队”倾巢出动救援。十总队人数为9000余人，其中日系军人2447人、华系军人7279人，总队长由原独立混成第三旅高级参谋今村方策出任。这支部队，被阎锡山视为救命稻草。孰料，十总队此一去，被解放军包围，除司令官今村方策等少数人幸免外，几乎被全歼。6个日军团长3个战死，1个被俘。军中少将元泉馨也被打死。
解放军包围太原后，残留的日本军人只剩下300多人，已经无法进行步兵作战，今村将他们编为炮兵部队。河本大作模仿日军的九四式山炮，为阎锡山生产了数百门火炮。阎锡山称，要利用这些炮搞火海战术。在太原外围战中，残留日军还向解放军发射了毒气弹。
解放军写信给今村、岩田等人，动员他们起义，他们拒不接受。河本大作也拒绝逃跑，声称与太原共存亡。
1949年4月24日，太原城破，残留日军全部被俘。今村方策服毒自杀，成为最后一名死在中国的日军将领。河本大作面对解放军，声称“我曾受阎氏厚恩，责难恩人，作为一个日本人是难以忍受的”。他还在日记中讽刺一位日本人，“不出旬日之前，一个对阎长官歌功颂德、大肆吹捧的人，如今摇身一变，竟采取同人民解放战士毫无二致的行动，这种不知耻的应声虫说出了真心话，实在令人啼笑皆非”。
这些残留日军的骨干分子，对阎锡山可谓是尽忠尽义了。可惜主子跑掉了。
阎锡山在抗战期间，与汪精卫、龙云密切联结，与蒋介石对抗，与日本军勾结联系，给抗战阵营内部造成极大隐忧。蒋介石曾在日记中斥之不可救药。但后来的国民党正史却宽容地说：“经阎锡山对内、对外的运作，得以支撑华北战局，屏障西北，直到抗战胜利。”
太原战役，险些抓住胡耀邦
国共内战爆发后，阎锡山在山西与中共徐向前部血战3年半，始终占不到上风。
1948年7月，解放军逼近太原。蒋介石急电胡宗南令三十军空运太原增援。三十军军长黄樵松率四个团被空运到太原后，收到了原西北军将领、他的上级高树勋的策反信，告诉他太原危如覆卵，劝他“当机立断，毅然举起义旗，坚决回到革命方面，创造自己的前途”。黄提出事成后当山西省省长，徐向前表示同意。在解放军商量派谁去指挥起义部队时，时任华北野战军第一兵团政治部主任的胡耀邦表示这是件大事，要亲自前往。徐向前没有同意，指派第一兵团八纵参谋处长晋夫带人前往。殊不知，黄樵松最信任的部下、二十七师师长戴炳南和副师长仵德厚却将黄准备起义的消息报告了阎锡山。阎锡山电召黄樵松开会，晋夫说不能去，但黄处事不慎，认为不会有问题，遂前往，一下车，就被两个警卫夹在中间，从兜里搜出了共产党的信件。
国民党一直认为晋夫就是胡耀邦，如能证实，这将是他们在内战中俘虏的中共最高级别的指挥员。他们将晋夫押解南京拷打审问，逼他承认是不是胡耀邦。晋夫仅报以冷笑。
黄樵松和晋夫被押解枪杀于南京雨花台。
戴炳南和仵德厚在太原被攻陷后被解放军俘虏。戴是躲在棺材里被搜出来的，很快被枪毙，仵德厚被判了10年刑，出狱后回陕西老家放羊、种地。1997年后，仵德厚以台儿庄敢死队长的身份被媒体广泛报道，关于他是功臣还是罪人的争论也延续不休。
黄樵松事件之后，解放军继续强力围攻太原。
1949年1月平津战役结束，解放军调整兵力，集中32万余人总攻太原。此时，面对城破被杀被俘的结局，阎锡山的部下和朋友都曾劝其赶紧离开太原，但是阎表示自己要杀身成仁、舍生取义，誓死不离太原。
1949年1月18日，曾任晋绥财政整理处处长的邱仰睿电阎锡山，传达了美国人陈纳德的意见，劝阎不必坚守太原，到不得已时，他愿接阎锡山脱险。但是阎在回电中说：“不死太原，等于形骸，有何用处！”在另外几封回电中，他还表示：“山自以为老而无用，任一事结一局以了此生。”“我决死战太原。”等等。在自己的办公室里，阎锡山也贴了一幅横批，上书：“知其不可为而为之才是真正的革命。”
阎锡山推崇田横五百壮士的故事，他说：“昔日田横五百壮士，壮烈牺牲，我们有五百基干，要誓死保卫太原。不成功，便成仁。”在听说纳粹军官均是牙齿中暗藏氰化钾毒丸，咬破后可以当即毙命后，他立刻让自己的制药厂试制。虽然最后没有真正成功，但是阎锡山的确配制出了五百瓶毒药。他把毒药放在自己面前，邀请美国记者拍照，并把照片送给劝其离开的司徒雷登和陈纳德等人，以此表示决心。
1949年3月29日，“代总统”李宗仁给阎锡山发了一封电报：“和平使节订于月杪抵平，党国大事待我诸公前来商决，敬请迅速命驾，如需飞机请即电示，以便迎接。宗仁俭印。”就这样，阎锡山带着秘书原馥庭等人，离开了太原。在解放军攻下山西之前，阎锡山曾经想过回去，但是蒋介石称飞机场已被共产党占领，不能降落。事实上真正的原因是蒋介石要留下阎锡山。
1949年4月24日，解放军对太原发起总攻，全歼守敌10余万人。太原战役，解放军攻城6个多月，伤亡4.5万人，经历了解放战争中历时最长、战斗最激烈、付出代价最大的城市攻坚战。
从中也可看出阎锡山部队的战斗力。
因为等不到救援，阎锡山的副官梁化之与五妹阎慧卿在太原绥靖公署的地下室里服毒自尽，死前命令卫士将他们的尸体浇上汽油焚尸灭迹。在阎慧卿自尽前夕，梁化之代笔写下了《阎慧卿致阎锡山的绝命电》，其全文是：“连日炮声如雷，震耳欲聋。弹飞似雨，骇魄惊心。屋外烟焰弥漫，一片火海；室内昏黑死寂，万念俱灰。大势已去，巷战不支。徐端赴难，敦厚殉城。军民千万，浴血街头。同仁五百，成仁火中。妹虽女流，死志已决。目睹玉碎，岂敢瓦全？生既未能挽国家狂澜于万一，死后当遵命尸首不与‘匪共’见。临电依依，不尽所言！今生已矣，一别永诀。来生再见，愿非虚幻。妹今发电之刻尚在人间，大哥阅电之时，已成隔世！前楼火起，后山崩颓。死在眉睫，心转平安。嗟乎，果上苍之有召耶？痛哉！抑列祖之矜悯耶？”
在上海的阎锡山收到这份绝命电后，虽然泪流满面、悲痛莫名，却已经无计可施。
阳明山上
1949年底，蒋介石要阎锡山先搭机到台湾，他自己则从台湾抵达四川做最后的努力。阎锡山与陈立夫和“行政院副院长”朱家骅搭乘同一架飞机前往台北，侍从人员则坐另外一架飞机。
阎锡山坐的那架飞机，在四川与湖北的交界处遇到寒流，机翼结冰，突然下坠二三百米。飞机不敢再飞，降落成都。问其原因，驾驶员说，飞机上有阎长官携带的金条数十箱，致使飞机超载，空中下坠。同机的陈立夫第二天去与阎锡山商量，能不能少带金条，保证飞机不要超重。阎锡山说，减少几个卫士就好了，金条是非带不可的。
据说这些金条，阎锡山是准备以后打回来用的，但谁也没有想到，这一去就真的没有了回头的机会。
带着“行政院长”的头衔，阎锡山在抵达台湾的第一夜，住进了台北宾馆，在这座被称为台湾最典雅的巴洛克式建筑内，历经颠沛的阎锡山得到了暂时的休息。仅仅3个月后，蒋介石要阎锡山交出“行政院长”的职务给自己的宠臣陈诚。阎锡山的另一名侍卫王延年作为旁观者看得很清楚：蒋介石不再需要阎锡山了。在台湾所有的部队都属蒋介石所有，一直手握兵权的阎锡山也明白：没有部队，一切都失去依靠。当时的阎锡山已经年过67岁，蒋介石给了他资政的职务，毫无实权可言。
阎锡山离职前，“行政院”曾为他举行了一个小型的茶话会。席间有人将老子《道德经》里的两句话“绝圣弃知，大盗乃止”送给阎。阎锡山则回应称：“无珠宝而不争珠宝，不是不争，是无所争；有珠宝而不争，是自己心上无珠宝，才足为奇。人不污辱你，你不和人争，不是不争，是无争；人污辱你，你不和人争，才是不争。”不管是否故作姿态，此时的阎锡山似乎已经另有天地。
与继任的“行政院长”陈诚与妻子情深意切不同，阎锡山的家庭生活更符合世人对其暴君身份的想象。原配徐竹青年长阎锡山三岁，是山西五台县大建安村小地主徐一敬的女儿，阎锡山娶她有取“妻大三黄金堆成山”之意。徐竹青不过中人之姿色，只因一双小脚得到阎锡山父亲的首肯，但是徐竹青始终未能生育，这也让阎锡山纳妾有了充分理由。阎锡山与徐竹青也并非全无感情，1938年，在听说徐竹青病重之际，阎也写过《忧妻病》诗：“子电传来妻病沉，远道流离糟糠心，胆石原系缠手病，主病无由听好音。”诗中的担忧之情，也确是出自真心。
阎锡山的如夫人徐兰森在被阎收房之时年仅15岁，16岁时为阎生下一子，此后陆续生下五子一女：长子志恭幼夭；次子志宽，20岁病死四川；三子志信亦幼夭。阎锡山晚年只有四子志敏与五子志惠陪伴在旁。阎锡山教子甚严，在公馆里设了书房，分请中文、外文、数学教师，但是始终拒绝将孩子送入正式学堂，理由是“孩子入学，有人骂几声军阀，他们就受不了，就会赤化，跟上人走”。虽然自己纵情酒色，阎锡山却希望儿子自律，1941年他在日记中写道：“五子呈阅戒酒誓词，嘱曰：能管住自己才是大勇。”徐兰森1947年病故在太原，悲痛的阎锡山书写挽联：“上有老，下有小，责任未尽身先逝；左无从，右无和，余缘未尽影空留。”而早年在《家居病床与妾谈旧病有感》一诗中，他曾写道：“身修而后家自齐，齐家尤赖好夫妻，已过尽是伤心事，旧过那堪再重提。”这也是指徐兰森。
和家人陆续别离，让阎锡山在台湾的生活更为凄清。在卸下“行政院长”职务之后，阎锡山最初住在台北农安街，但即使是住家低矮的围墙，也抵挡不住彼时台湾政局的纷扰。阎锡山决定带着40名部属家人隐居在阳明山。和山西阎家老宅的富丽堂皇相比，阎锡山最后的住所仅仅有5间斗室，每间不过十余平方米，均是石棉瓦顶木板墙，门楣上是阎锡山手书的“种能洞”三字，其意为世界万物的根本是种子，而种子功能无穷，这也是阎锡山奇异的世界观。
由于没有办法散步，阎锡山在房子前面加了一个长长的走廊，山上的房子没有电话、电灯，甚至没有自来水，喝的是泉水。一直到蒋介石夫妇前来看望阎锡山之后，山上才有了一部军用电话。阎锡山在山上这栋仿山西窑洞的建筑，是他和魂牵梦萦的家乡最后的联系。
山西王时期的阎锡山杂务缠身，当时的秘书曾记录阎一天的生活：头天晚上由检点参事拟出次日的时间安排，经阎同意批“可”后，照作息时间表进行活动。4时半或5时起床，吃早点，稍事休息后开始批阅电报和重要文件。6时至7时半参加朝会。8时至12时接见下属研究工作或召开组政军教经某方面的会议。随后是一到两个小时的午睡。下午则以开会和会客居多。晚饭后交代有关信件。一般直到11时左右始睡。有些重要军事会议，往往也开到深夜一两点。
权力顶峰时期的阎锡山也热爱享受权力，在参加朝会入场和出场时，其手下甚至会高呼“会长万岁！”“会长万岁！”之类的口号，俨然一位真正的君主。1941年陈诚就任第一战区司令长官，在克难坡遇到阎锡山，陈诚仅带秘书、副官各一人；而阎锡山则副官、秘书、参谋、参事和高干大群相随，副官们有持暖壶的，有持坐垫的，有持斗篷的，甚至捶腰捶腿的也各色俱全，其派头即使蒋介石大概也不能相比。
来台湾后，手无大权、过着半隐居生活的阎锡山虽然还是努力维持着往日的节奏，然而却不得不承认再也没有繁忙的工作可以支撑其生活。阎锡山还是经常和部属们开会，并留下了一篇篇的会议记录，其中一篇写道：“大家在言语上有了相当的进步，过去大家习于流动的生活，等待的方式，后来到菁山虽有学习进步的风尚，但捎带的进步不是专门的进步，所以不踏实。”从这篇记录多少可以看出，政坛失意的阎锡山其实已经无会可开，这不过是过往生活的惯性而已。
除了天天开会做记录，这些跟着阎锡山南征北讨、迁徙到台湾的部属们，还必须在山上开垦荒田，甚至养鸡养猪种地。他后来还向附近的台湾金铜矿务局租了一大片地，建成一座农场，同样以“种能”为名，阎锡山在农场里种植了许多柑橘和松树。在写作感到疲惫的时候，他就在这里锄草种地，打发时光。这个时候的他，已经是一个真正的老人。
也许是因为从大陆带来的嫡系少，也许是因为从政多年结怨树敌过多，阎锡山在阳明山住了10年，除了蒋介石看过他几次，陈诚出于礼仪，去看过他一次之外，国民党政要中再没有人上山看过他。在台湾政坛复杂诡谲的10年中，阎锡山被忘记了。
靠着一个月5万块的收入，阎锡山要养活所有的部属分外吃力，为了替部属们张罗生计，阎锡山甚至一度在台北开了一家印刷厂。即使如此努力为大家盘算，阎锡山并不知道，身边的老部属们，因为耐不住山上的孤寂和微薄的收入，正在计划离他而去。
从1950年搬到阳明山之后，阎锡山已经很少出门。他的生活一如既往地规律：每天早晨7时起床，然后写作；午饭后休息两个小时，下午会见客人（如果有的话），更多的时候思考问题；晚上10时准时入睡，一日三餐也甚少变化。
和大部分要员初到台湾时的建筑设计一样，阎锡山的房外有一个40厘米厚墙的防空洞，因为当年还有从淡水飞过来的大陆飞机进行空袭，警卫人员住的房间里甚至还有射击孔。
虽然现在已经破败不堪，但还是可以看到在红砖上的黑色柏油。这是蒋介石要求漆上的，因为他在山下的官邸里看到红红的影子，以为是有人把阳明山的土地开挖，而当时的阳明山是不允许开挖的。就这样，阎锡山的外墙成了黑色，并没有任何人担心他是否会为此不快。这面黑墙如同镜子，一方面，映照出尽管曾经担任北伐集团军总司令和抗战第二战区司令长官以及38年的山西省主席，阎锡山在台湾的政治处境却已经如此尴尬；另一方面，也映照出阎作为一个老人的寂寞。由于儿子在美国，日本也有许多亲戚，阎锡山在卸任后不久曾一度表示想移居美、日，但没有得到蒋介石的批准，大概让多年的政敌自由出入，蒋实在不能放心。在阳明山的10年，侄儿阎志昭几乎是他唯一的客人。只有一些报刊、电台影视记者，对经历了清王朝、辛亥革命、北洋军阀统治、民国以及台湾国民党5个时代的阎锡山感到好奇。阎锡山晚年潜心研究的所谓“大同主义”中和哲学，常见之于台湾报刊，这也是他难得的慰藉。1959年，香港《真报》记者采访阎锡山时，他说：“一旦能配合国际形势，王师跨海北进，直捣黄龙，毫无问题。诸位别看我老态了，真个儿一旦反攻号响，看吧，我还要请求率领健儿们再打几个胜仗给国人看看；我有信心，生从太原来，我这把老骨头仍将活着回太原去。”
在经常与部属们开会之外，写书是阎锡山另一种精神依靠。他很少自己动笔，一般是他主述，下属们在旁记录，写好读给他听，然后他再进行修改。书房里的小圆桌和四个简陋的沙发，就是他和部属们工作的地方，《三百年的中国》也是在此完成。1959年，阎锡山曾经因为严重的心脏病住进台湾大学附属医院，但是因时时记挂尚未完稿的《三百年的中国》，他没等痊愈便匆匆赶回，可见他对这本书的重视程度。1960年1月，《三百年的中国》终于完稿，阎锡山又开始研究《二十五史》及《十三经》。谁也说不清这是出于对学术的真正兴趣，抑或只是阎锡山的某种安慰。
一生醉心权术的阎锡山晚年生活单调，听听京剧是他唯一的娱乐，但是他只是听，从来没有真正看过。他也没有看过电影，因为“时间不会那么样浪费”，下属们看了电影也不敢告诉他。一生跟随阎锡山的原馥庭对他的评价也许非常恰当：“心里没有风景。”因为心里没有风景，所以他看山不是山，看水不是水。张日明记得某一次阎锡山吃晚饭，阎习惯性地一边吃一边聊天，他忽然夹起两条豆芽质问副官：“你怎么给我这样两条面？”副官慌忙解释面条在下面，这不过是豆芽而已，足见阎食而不知其味。
也曾有朋友怕他寂寞，写信建议他接受宗教信仰。但是年过七十的阎锡山，却有着山西人特有的倔强，他回信说：“我一天忙得很，我不寂寞。我估计再需要两三年，该写的书就可以写完了，但是我现在还在日夜赶忙，我并不寂寞。”
但是再多的倔强也抵挡不住现实的孤寂，原来跟随阎锡山的秘书和侍从，从最开始的40人，渐渐流失为不到10人。协助写书的原馥庭也考虑到自己日益老去，开始动摇，台北也有人邀请他前往收入稳定得多的机关做事。原馥庭把这个想法告诉了阎锡山，阎半天没讲话，然后他往前一坐，说：“你不能离开我。”
位于台北圆山的山腰上，有被称为“五百完人冢”的纪念堂，里面纪念的是国共内战时死于山西太原，最后集体自杀的阎锡山部属。
童年时代的李敖曾在太原度过一年时光，他在日后写道：“阎锡山到台湾后，写‘先我而死’四个字追念他们（指在太原自杀的下属），这四个字，倒写得颇能传情。”“五百完人”的故事，是阎锡山心中挥之不去的阴影，1949年10月23日，阎锡山曾以“行政院长”的身份，留下一段给山西同胞的讲话：“山西全体同胞们，我这一回没有赶上回到太原，同我文武干部及全体军民，共同奋斗共同牺牲，我很惭愧，我心上也很不安，现在我天天想到这里，心上非常难受，但我在一天，一定一刻不会忘了你们。”
阎锡山到台湾后，通过“行政院”拨款新台币20万元建立了“太原五百完人成仁招魂冢”，蒋介石赠“民族正气”、蒋经国赠“齐烈流芳”匾额，阎锡山则是那句“先我而死”的冢匾，还撰写碑文和祭文。他甚至专门撰写了“太原五百完人歌”：“民族有正气，太原出完人；海天万里招忠魂，歌声悲壮动三晋。何以为完人？生而能‘杀贼’，死而不留身，大节凛然表群伦。谁能为完人？男学梁敦厚，女学阎慧卿，死事壮烈泣鬼神。赴汤蹈火全忠贞，救国救民重死生；五百完人齐尽节，太原今日有田横。民族有正气，太原出完人；日月光华耀国门，万古留芳美名存。”
然而现实并非传奇。“五百完人”祭奠的很多人，后来都被证实并未死去，或者并不是死于悲壮的自绝。“五百完人”的全部内容是：特工人员或服毒，或相互枪击，并引燃早已准备好的汽油自焚。一同殉难的，还有部分特工人员的妻子和年仅18岁的晋剧演员王桂燕。此外，特警处秘书主任范养德等4人在东缉虎营2号自杀；太原特警队主任王九如等十余人在后坝陵桥18号队部小楼上自杀；山西省会警察局局长师则程开枪打死自己的姨太太后在柳巷派出所自杀。李敖撰文说，真正死的人只有46个人，而且在真正死者的名单里，有的女孩子死时不过十八九岁，她们并不是怀抱理想而死的烈士，只是被阎锡山不能逃脱的部属逼迫至死。名单里的白文耀，事实上是被共产党枪毙，根本不是殉国的“完人”，而一个叫孟华的名字，甚至是被阎锡山亲手杀死。
可以肯定的是，阎锡山的五妹阎慧卿的确自杀而死，这个经历过两次不幸婚姻的姑娘最后同梁化之死而同穴，这是她悲剧人生的最后一出戏。她原本悲壮的故事，却因为被蒋介石在台利用为政治宣传工具，变得多少有些滑稽。
虽然曾多次表示想祭拜在太原死难的下属，但是“五百完人冢”落成之后，阎锡山却只去过一次。也许对心知肚明的他而言，这个传奇般的故事，太复杂，也太沉重。
在台湾待的十几年，阎锡山每年初一都会修改遗嘱甚至自写挽联，在生命的最后时光，原来的目标统统都失去焦点，大概阎锡山也一直摇摆不定，不知道自己到底应该给世人留下一个怎样的自己。
不过，有一点是他深信不疑的，那就是他毕生奉行的所谓“中道”。他在书中写道：“‘中’是人事成就的内因，‘对’是人事成就的外征；事的外征的‘对’是根据内因的‘中’来的。‘中’在不‘中’的中间，不在不‘中’的反面；‘对’亦在不对的中间，不在不对的反面。欲求人事的‘对’，须在不对的中间找‘对’，不能在不对的反面找‘对’。在不对的中间找‘对’，是以‘对’的一，规律不对的万，使不对归于‘对’，而人事常治。若在不对的反面找‘对’，是以这一端的不对否定那一端的不对，使不对与不对互相否定而人事常乱。”
阎锡山的坟前，用水泥砌了一个大大的“中”字，这“中”字，也许正是阎锡山一生周旋于各种势力之间，以图自保的注脚。
一直为他守着墓园的张日明已从风发少年变成垂垂老者。这位蒙古族的老侍卫用他的忠诚感动了台湾。
在阳明山阎锡山故居旁，人们常见一位戴着礼帽、穿着皮鞋的老者坐在阳明山的一个公共汽车站上。这样老派的装束引人注目。他就是张日明。
1960年阎锡山去世后，随从人员散去，张日明下山娶妻生女，但却五十年如一日守护阎的故居与墓园。张日明说，做人要讲良心，不能忘恩。张日明从15岁开始，就随着阎锡山的军队征战。他在太原“沦陷”后逃到绥远，当时阎锡山派飞机救了其中20人到广州，他就是其中之一。
阎锡山故居已经破败不堪，墙皮和天花板掉下来不少，有两间屋里堆着一堆堆已经发黄发霉的书，拿来一看，都是阎锡山写的言论。张日明会对来人说，你想要就拿去，喜欢的看着是个宝哩，不喜欢的你给他他也不要。他还说，阎锡山一度还想开个印刷厂补贴部下们的生活，可惜很快就垮掉了。
阎锡山的墓距离故居有几百米，一面陡峭的山坡上开出一小片平地，一块石碑，石碑后是水泥修筑的坟。
张日明拿起扫帚为老长官扫墓后，他坐车下山。在他的家门口，有他常去吃饭的一家“山东面馆”，他说，我在这家面馆里存放着“山西老陈醋”，正宗的。
张日明以此怀念他的家乡和老长官。