ZI日启程赴太原。24日晨，在运城住了3天，备受晋军将领优礼相侍的冯玉祥乘车前往太原，当晚与阎锡山在介休见面，25日一起到了太原。
冯玉祥一到山西，阎锡山自以为“奇货可居”，遂以冯玉祥为政治资本，暗中同蒋介石谈起交易来，蒋介石明白他的居心，便投其所好，亲赴北平约阎面谈。阎锡山在太原与冯玉祥虚以委蛇，却又偷偷跑以北平与蒋密谈。经一番讨价还价，蒋介石委任阎锡山为全国陆海空军副总司令，阎锡山则答应尽快解决西北军。“协议”达成后，阎锡山回到太原，先是“称病”住了医院，后又退掉了赴日的船票，并寻个借口将冯玉祥骗到五台县建安村软禁起来。
冯玉祥上了阎锡山的当，当然既怒又急。但他身处晋军之中，只能不露声色，暗地里却在寻找出路，设法拆散蒋、阎联盟。他在建安村里动弹不得，便暗中授意留在陕西主持西北军军务的宋哲元，要他绕开阎锡山，直接与南京政府联系，向蒋介石靠拢。冯的部下们痛恨阎锡山趁火打劫，又苦于冯玉祥被软禁，西北军军饷无法解决。得到冯玉祥的密令后，宋哲元等西北军将领算是找到了一条出路。当时，西北军的将领鹿钟麟在南京政府住军政部长，宋哲元便派参谋长陈琢如赴南京见蒋介石，表示西北军接受中央指挥，要求补给军饷。蒋介石闻言大喜，以为西北军已然不战自降，瓦解冯系不再需要借助晋军了。于是，他委派于右任和贺耀祖到西安宣抚点编西北军，安抚冯军部将，并供应军饷。从此，蒋介石与西北军的关系由对抗缓和，转而成为“亲密”了。
阎锡山见此情形，深恐蒋、冯联合起来对付晋军。为了摆脱困境，他于中秋之夜亲往建安村，当面向冯玉祥赔罪，并提出联合反蒋的建议。冯玉祥见折散蒋、阎的目的已经实现，遂表示愿与间捐弃前嫌，联手反蒋。经商议，冯玉祥仍住在建安村，居于幕后，以留回旋余地，由西北军将领首先举事，并通电拥戴阎锡山为首领，共同讨蒋，然后再由晋军起而响应。
1929年10月10日，宋哲元等27名西北军将领，联名发表拥戴冯玉祥、阎锡山，讨伐蒋介石的通电，列举了蒋介石的六大罪状：
一、“自蒋氏继任主席，滥用威权，包办三全大会，党成一之党，中央成一之中央。假中央集权之名，行专制独裁之实”，“天下为私”。
二、“自蒋主中枢，政以贿成。政府委员及财政官吏，非其私，即其妻党。狐鼠凭陵，秽闻昭彰。贪污之风，实甚于昔北京政府，以致开国正气，竟被蒋氏一手破坏无余”。
三、“连岁水旱成灾，遍及全国。仅西北各省灾民数近二千万。哀鸿遍野，奄奄待毙”。蒋氏对非嫡系部队，“常景十余月发一晌，死者无抚恤，伤者无医药，生者无一食。而蒋氏及其左右私党，骄奢淫逸泊享帝王之奉。军民交瘁，漠不关心。自蒋氏到南京。不足三年，前后发行公债四亿二千万元”。“蒋氏用总司令名义支用特别费，每月百余万元。凡此黑暗贪污，即榨取民脂民膏民血”。
四、“蒋氏狡悍阴整”，“毫无政治道德、权术自民诡谋百出”“行帝王专制之淫威”，使“兄弟骨肉自相残杀。今年湘、鄂、粤。桂川卜滇、黔等省，战祸连绵，蒋氏一实为之涌。”
五、“蒋氏假借编遣为名，一面令竭力灭缩，一面自己加大招募。两度会议，皆属欺骗阴谋。近更向德国大购军械，暗扩军额。外标和平统一之名，阴行武力统一之实。”
六、“蒋氏自知多行不义，为国所不谅，乃更异想天开，学拿破仑三世之所为，利用外交问题，转移国的目标”。“此次中东路事件发生愈月。和平交涉，既无把握，武力抵抗更不准备，坐令俄兵出没边境，焚烧城池。边民数百万流离失所，财产损失，以数万万计，丧权辱国，薄海痛心。”
通电最后宣布：“蒋氏不去，中国必亡”，“即日出发，为国杀贼，万死不恤”。
宋哲元等的讨蒋通电慷慨激昂，指陈蒋的几条罪状都是有目共睹的事实，因此有一定的号召力。通电发出后，西北军兵分三路，浩浩荡荡向河南进军。但是，这一次西北军又上了阎锡山的当。通电讨蒋后，西北军进展很快，连战连捷，但晋军却按兵不动，迟迟不予响应，致使西北军后继乏力，士气大受影响，战局在短时间内发生了急剧变化。
28日，蒋介石以陆海空军司令的名义，发表了《讨冯誓师词》，大骂冯玉祥说：“冯逆反复，好乱成性，勾结暴俄，祸国殃民，既召外侮，又图称兵，内战国本，外失威信，举国同仇，疾首痛心，全军愤激，师出正名，为党讨逆，为国牺牲，党亡与亡，国存与存，身为后死，誓不偷生，义无反顾，勇往急进，军法连坐，敌代同心，内奸不除，国无幸存，叛徒不灭，民难安宁，歼除内奸，固我国本，肃清反叛，安我国民。”
由于蒋军兵多将广，弹药、粮食充足，而西北军孤军深入，兼以宋哲元和孙良诚因争夺指挥权而发生矛盾，孙良诚意气用事，竟擅自率部脱离战场，导致全线溃乱，全军退回到潼关以内。因此，仅仅一个多月，蒋介石就打败了西北军。冯玉祥第二次反蒋又失败了。所幸这一次冯玉祥身在幕后，从表面上看，蒋介石打败的是宋哲元和孙良诚部下的西北军，并未与冯玉祥发生直接的冲突。因此，西北军战败后，冯玉祥的处境至少没有变得比开战以前更糟糕，蒋介石也不敢逼冯过甚，给他指了两条出路：或者到中央供职，或者出洋考察。
冯玉祥处境如此，阎锡山的日子也不好过。10月28日，蒋介石把特任阎锡山为陆海空军副总司令的命令公布于众。11月5日，阎锡山也喜洋洋地宣布就任此职。然而，就在阎锡山脸上的笑容还没褪去的时候，11月26日蒋介石突然规定：“在中央有职务者不得再兼省职。国府委员应驻京，无公事不能离职。”按照这个规定，阎锡山将不得不离开太原到南京去当官，这实际上等于被蒋介石“削了藩”，等干将晋军拱手送给了蒋介石。接着，蒋介石又派宋子文到平、津两市，把平、津税收尽数归为国有，使盘踞平、津实地的阎锡山从此无税可收，空守着个水中月、镜里花。阎锡山几年来帮蒋介石绞杀其他派系，出力甚多，到头来落得这样的结局，连连吃了蒋介石几个“哑巴亏”。而且，眼看蒋介石将嫡系部队大批北调，明摆着是冲着晋军和冯军来的。在这种情况下，一向善于投机钻营的阎锡山也不得不考虑出路问题了。出路只有两个，或者拥蒋，任其宰割，弄个有名无实的闲官当；或者反蒋，拼个鱼死网破。若果然扳倒老蒋，前景自是妙不可言。在两条出路的抉择中，阎锡山还没拿定主意，蒋介石却又来逼他了。1930年1月16日，吴铁诚奉蒋介石委派来到太原，请阎锡山补行副总司令就职仪式。这不是个仪式的问题，而是蒋介石逼间表态的一种形式。阎锡山被挤到绝路上，遂借机发表了反对蒋介石的演说，公开指责蒋介石独裁。并要求蒋介石下台，“在野负责”。蒋介石则一面反唇相讥，一面调兵遣将进行武力威胁，同时授意何应钦提出也叫阎锡山下野。
蒋、阎的争吵，使冯玉祥看到了转机。他虽被困建安村，但与西北军将领仍保持联系。这一次，冯玉祥重施故伎，密令鹿钟麟派与蒋介石联系，并故意使阎知道。阎锡山果然上当，认为蒋、冯意欲联合对付晋军了。他审时度势，认为冯玉祥反蒋是一向坚决不馁的，现在冯处于逆境，自己若能主动与他修和，共同反蒋，冯玉祥多半会同意，何况他与冯是拜把子兄弟，冯又是个粗放豪爽之，凭自己三寸不烂之舌，不怕冯玉祥不尽释前嫌，联手发动新的反蒋战争。于是，阎锡山决定联冯打蒋。他自任首领，请冯玉祥回陕指挥西北军。在冯玉祥临走的前一天，阎锡山又来到了建安村，极其诚恳地对冯玉祥说：
“大哥来到山西，我没有马上发动反蒋，使大哥受了些委屈，这是我第一件对不起大哥的地方；后来未哲元出兵反蒋，我没有迅速出兵响应，使西北军受到损失，这是我第二件对不起大哥的地方。现在我们商定联合反蒋，大哥马上就要回到潼关，发动军队。如果大哥对我仍不谅解，我就在大哥面前自裁，以明心迹。大哥回去以后，倘若带兵来打我的话，我决不还击一弹。从今以后，晋军吃什么、穿什么、用什么，大哥的军队也吃什么、穿什么。用什么，一律待遇，决不歧视，我心耿耿，唯天可表。”为了表示诚意，阎锡山当场交给冯玉祥现款50万元、花筒手提机关枪200支面粉2000袋，于 1930年3月9日送冯玉祥回到陕西。
冯阎结盟后，阎锡山一边积极进行战前部署，一边制造假象，发出“下野”通电。3月10日，西北军将领23发电挽留，并表示愿追随阎锡山奋斗到底。13日和14日，晋军将领和第二、第三。第四集团军的将领共计57通电全国，一面历数蒋介石的罪状，要蒋还政于民，一面公推阎锡山为中华民国陆海空军总司令，推冯玉祥、李宗仁、张学良为副总司令，推刘骥为总参谋长。
4月1日，阎锡山在太原宣誓就任总司令，冯玉祥和李宗仁分别就任副总司令。阎锡山就职时发表通电，指斥蒋介石“专制独裁，为所欲为”。以致“党不党矣，政不政矣，国不国矣，民不聊生矣。”
至此，中原大战爆发。
4．军事与政治的双重胜利
1930年4月，蒋介石以国民党中央宣传部的名义，编了《讨伐叛党祸国殃民的阎锡山冯玉祥卜书，将《国民政府拿办阎逆锡山令》、《讨伐阎锡山宣传大纲》、《讨伐冯逆宣传大纲》等予以公布。并历数了阎锡山的罪恶：
“一、假革命之名而攫取权位”；二、“残害同志，劝袁称帝”；三、“假名村