冯玉祥被迫辞去了所有的职务。他下台后又生活了18年，并在此期间写了大量的诗歌和散文。他偶尔也曾试图重返政治舞台。
他自己很快也认识到一点。国民党右派领导人胡汉民对蒋介石刚刚发表的长篇大论感到很是恼火。蒋介石想——或者是他说他想——扩大政府的群众基础，但这却是胡汉民不喜欢的。胡汉民认为国民党应该保持对政府的绝对控制，在党内谴责滥用职权（正如蒋介石所做的那样）就已经走得够远的了。
这一假象表面显得堂而皇之，并给人留下深刻的印象，但如果仔细观察一下，就会发现它实质上并没有什么真东西。
中国共产主义运动涌现出两个杰出的人物：毛泽东和李立三（周恩来这时已经表现出他的机智和灵活性，正是这种机智和灵活性的结合，使他在政治斗争中立于不败之地，但他与毛泽东和李立三不是同一个类型的领袖人物）。
冯玉祥及其朋友阎锡山（此人在冯、蒋新发生的冲突中支持冯），与“改组派”举行了秘密谈判。接下来就是典型的中国式的插曲，蒋介石与冯玉祥两人互通一些辞藻华丽的电报，讨论有关出洋之类令人愉快的问题，蒋介石认为出洋是件快乐的事。阎锡山一度似乎也要与冯玉祥一同出国。蒋介石答应不触动冯玉祥的军队，并由中央向冯玉祥的军队发饷，而冯玉祥本人还可得到20万美元的旅行费用。这些条件应该说是不错的。
蒋介石的左派对手汪精卫就此事从法国发来一份长电谴责蒋介石，而蒋介石却认为汪精卫、冯玉祥、阎锡山三人选入中央执行委员会就能安抚他们，但汪精卫根本不吃这一套，而冯玉祥则回到了山东，阎锡山对当选中执委的兴趣也不大。在这种背景下，国民党“三大”开得很不平静——因为那些或多或少仍效忠于蒋介石的人不愿投票支持那些反对蒋介石的人。
蒋介石未能取得对地方的实际控制权，他很容易就满足于地方军阀对他的毫无意义的效忠，这是他判断上的最大失误。
如果国民党的官方统计数字可信的话，那么阎锡山的部队伤亡了15万人，南京方面的部队阵亡3万人，伤6万人。
这次不必要的会议开过不久，汪精卫从欧洲回到中国。他立即起草并发出一封谴责蒋介石的电报，这封电报的措辞之强硬、具体，是汪精卫以前类似的电报所没有的。
在中共取得胜利之后，他回到中国。他承认自己年轻时所犯的错误，后来被允许重新从事政治工作，并于1958年当上了劳动部长。但在“文化大革命”期间，他由于受到忠于毛泽东的红卫兵的刺激而自杀身亡。
接着，一场文字战又爆发了。北平的一条标语写道：“阎锡山是出笼的老虎。”
接着，越来越多的皮影戏出笼了。
尽管这时蒋介石的专权比原先显得更合法一些，但马上又有人出来向蒋介石的权威提出挑战。
在这支庞大的军队中，根据蒋介石的估计，差不多有200万人在名义上是隶属于国民政府的，其余的则是一些流匪和一些不服从国民政府的军阀的残余部队。如果霍灵顿·唐的数字可信的活（这些数字也不过是个估计而已），那么这200万隶属于国民政府的军队每年要花费国民政府财政收入约4亿美元的75%。
8月1日，蒋介石召开会议，讨论如何实施年初制定的军队减员措施。这次，那些主要的将军都没有出席会议，而正忙着别的事。这次会议决定，把常备军裁减到65个师，每个师的编制缩减为1.1万人。
于是，李立三被指控为托洛茨基分子，并被清除出政治局。最后，他被不光彩地带到莫斯科，在那里待了很多年，并逃过了斯大林的大清洗。
冯玉祥认为自己可以与汪精卫做笔交易，而汪精卫也认为冯玉祥可能会帮助自己达到驱逐蒋介石这一极为有限的目的。从长远看，基督将军冯玉祥与蒋介石一样，也将变得不再对汪精卫有什么用处，但汪精卫在这时（1929 年10月10日）仍鼓励冯玉祥向蒋介石再次提出挑战。这次，汪精卫使用了一种熟为人知的政治技巧（袁世凯也经常使用这种政治技巧），他召集自己的部下（共27人）一起谴责蒋介石，并号召冯玉祥与阎锡山讨伐蒋介石。
第一次进攻是在1930年10月。在击败了广西的军队之后，国民党军队于1931年5月再次向江西的共产党发动进攻。1931年7月，蒋介石亲自指挥30万人又一次向苏区发动进攻。尽管国民党军队取得了一些局部的胜利，并使红军遭到了一定的损失，但蒋介石所称的这三次“围剿”都以国民党的失败而告终。在红军于1934年被迫退出根据地开始进行史诗般的长征之前，蒋介石又发动了两次“围剿”。
那就是——“他应该除掉那些最初反对他的人，用自己选定的人来代替这些人，而新选出的人应该忠于新生的民国，并忠于民国首脑蒋介石。”
此时，毛泽东不再受来自上面的错误决议的摆布。他开始着手在根据地创建苏维埃制度。
辞职的习惯似乎能够传染，宋子文宣布，他筹不出钱来进行这次裁员，因而辞去财政部长的职务。
裁军成了蒋介石最关注的问题，因为地方军阀依靠的是军队。蒋介石争辩说，既然国家已经统一，战争已经结束，大部分军人都应该复员，回到他们的百姓生活中去。他的这些话不无道理，只是所有的军阀心里都清楚，将自己的军队遣散，就意味着失去自己的权力源泉。于是，他们坚决反对蒋介石的复员计划。他们这种自私的愿望最终挫败了蒋介石的企图。
国民政府实际上只控制了几个省。冯玉祥称雄于北方，同时又是有名的西北王，控制了山东、河南、陕西、甘肃、青海以及宁夏等省。而蒋的对手阎锡山则从他那坐落于山峦起伏的山西省的大本营中向河北、察哈尔、绥远等省发号施令。在南方，李宗仁控制着广东、广西、湖南、湖北。中国实际上被分割得支离破碎，差不多可以算得上是诸侯割据……
1928年下半年和1929年年初，由于受到国民党军队的巨大压力，毛泽东及其追随者被迫撤离井冈山根据地，转移到江西福建交界的一块更大的地盘里活动。毛泽东及其同事致力于发展他们控制下已经苏维埃化的地区，但李立三却指示毛泽东手下的红军去夺取武汉及其他大城市。
北伐开始之前的中国与1928年年底的中国之主要不同在于，那些原来与国民党为敌的军阀后来都声称自己是国民党党员。在大多数情况下，这些军阀在自己的地盘内仍保留着原有的权力。
当时，毛泽东尚未在全党确立起领导地位，他在俄国人那里也得不到承认，而李立三则在中国共产党第六次全国代表大会上当选为总书记。这次大会是在莫斯科举行的。李立三与毛泽东一样也是湖南人，比毛泽东小7岁。他们两人曾在同一所师范学校上学，但双方的关系却不太融洽。李立三曾在法国参加过勤工俭学，并于1919年进入里昂大学。后来，他在被里昂大学开除后去了莫斯科。他的这种经历使他在党内斗争中比毛泽东处于更为有利的地位，因为当时的国际共产主义运动正在由共产国际领导。
这些富于戏剧性的步骤发生在国民党第三次全国代表大会的筹备期间，这次大会定于3月份在南京召开。
少帅张学良似乎对这一象征意义不感兴趣，他在9月18日宣布支持南京政府，在此之前，“改组派”与南京方面都极力争取他的支持。张学良的部队从容地接管了北平，于是“改组派”的所谓“政府”也就寿终正寝了。这次干涉行动使得张学良成了华北无可争议的主人，而他当时年仅30岁。他控制的地盘现在由东北延伸到河北，蒋介石还任命他为中国陆、海、空三军副总司令。但在某种程度上，他身上的军阀习气仍很浓厚。
蒋介石率军北伐一事深得民心，这使得许多敌对部队及其将领都投到他的麾下。但是这也带来了这样的问题：尽管蒋介石为了保住自己的权力而不时与各地的军阀进行激烈的战斗，但他却从没有真正地控制他的对手或征服他们的地盘。
尽管李立三是一个民族主义者，但他毫不怀疑列宁主义或斯大林及其政治局的正确性。他于1928年春离开莫斯科回国。他一回到中国，就开始准备以城市为基础的起义。根据马列主义的经典理论，这种起义将会导致中国共产党在中国掌权。
电报说蒋介石不仅任人唯亲，而且还把中国视为他自己的私人财产。此外，还指责他在“济南事件”中将中国的主权卖给日本人，并说现在到了“拿起武器，清除国贼”的时候了。
蒋介石自己及外界认为，他在1928年年底已经取得了中国的“统一”。然而，这只不过是一个残酷的假象。
蒋介石当然不能容忍这种情况的发生。事实上，在中华苏维埃共和国宣布成立之前，他已经发动了三次进攻，试图把共产党赶出江西根据地。
由于力量过于分散，再加上一名将领被逮捕，而另一位驻守北方的将领也因兵变而突然下台，桂军战斗力逐步减弱，并隐于一片混乱之中，很快就崩溃了。4月底，蒋介石在华中取得了胜利。
如果蒋介石认为他现在已经取得了无可争议的地位，那他就错了。
至于阎锡山，蒋介石最后还是允许他回去统治山西，用谢里登的话来说，就是当“一个听命于蒋介石的军阀”。
蒋介石对复员人员的安排早已胸有成竹，这些复员军人应该变成一支劳动大军，去从事修路、植树、开发矿山等这类工作。1929年1月中旬，蒋介石在南京召集所有高级将领开会，讨论有关复员的问题。
他还承认他本人也犯了错误（未具体说明），承认自己的一些观点对国家造成了损害。最后他说，现在召开国民大会修改《组织法》，制定一部永久宪法的时机已到。
蒋介石只在长江下游的五个省里享有无可争议的权力。
蒋介石既有些得意扬扬，又对某些事仍感到不满。他向全国发表了一份宣言，反驳那些有关他实行独裁的指责，警告那些不服从命令的人，并号召全国团结起来。他还说，一旦局势稳定下来，他就辞职引退，去实现他那耽误已久的国外之行。上海的中外商人均对蒋介石的这番话感到沮丧。但那些了解蒋介石过去下野经历的人则感到放心——或者说对他的讲话表示怀疑，因为蒋介石的下野往往是以退为进。
尽管胡汉民忧虑担心，但1931年5月5日在南京中央大学召开的“国民大会”并没有扩大多少群众基础。参加大会的447名代表全都是国民党党员，或是由国民党指定的党外人士。代表中大约有50人是中央执行委员会委员、政府顾问、部长以及身居这种或那种要职的人，其中包括西藏的世俗领袖班禅喇嘛。少帅张学良也是代表之一，蒋介石又向代表们发表了一篇夸夸其谈的演说，最后，代表们宣布接受孙中山的纲领。大会正式宣布中国进入“训政”时期。5月12日，大会通过了“临时宪法”。6 月1日，“临时宪法”向全国公布。
中共“六大”闭幕以后，党内争论的焦点是，中国革命究竟应该依靠城市工人（正如马列理论和苏联领导人所坚持的那样）还是依靠农民（毛泽东把他们视为“在中国这个农民占绝对优势的农业国里”真正的革命力量）。
会议持续了三个星期。2月7日那天，冯玉祥突然中途退席，致使会议就此收场。
对蒋介石推崇备至的官方传记作者霍灵顿·唐也不得不承认：
最后，蒋介石在很大程度上把自己对阎、冯联盟以及对“改组派”的胜利归功于少帅张学良。
1931年2月下旬，蒋、胡两人在制宪会议上发生了激烈的冲突。胡汉民威胁说要辞去立法院院长的职务。他辞职的请求在当时遭到拒绝，但几天后中央执行委员会接受了他的辞职。接着，蒋介石立即就将胡汉民软禁起来。
中国大地很快重新燃起了战火。李宗仁和其他广西军阀首先采取了行动，他们将矛头对准蒋介石在湖南的一位将军，并把他赶下了台，这是李宗仁、冯玉祥脱离国民政府的一个信号。
一时的荣耀，使蒋介石忽视了在一个封建国家里进行领土征服所应注意的唯一正确的原则：
然后，他提出各路军应该只保留12个师，然后将其余的人员遣散。这时，一个小军阀指出，根据蒋介石的提议，那些编制不足12个师的兵团、不得不再招六七个师才能凑足12个师。蒋介石对这个小军阀提的问题未加理睬，而他自己的部队则刚在北京附近扩编了十几个师。
广西的一个将军从广东出发，前往南京去参加这次大会，并得到了国民党的安全保证，但当他一到达南京，蒋介石就下令将他逮捕。蒋介石解释说，有确凿的证据表明，该将军参与了阴谋活动。
汪精卫的回国使蒋介石很伤脑筋。这个左派领导人与他的追随者被人们称为“改组派”，因为他们明确提出要重新改组国民党，使之重新带有左派的色彩。
正当中国明显处于分裂之中的时候，日本于1931年9月18日向东北发起了进攻。
会议就一件事正式取得了一致，那就是将全国划为6个裁员区。这件事使人感到别扭，有点像是在做交易，故军阀们心中渐渐感到不安。
与此同时，蒋介石与广西军阀又重新开战，这一次战场是在广东。经过相当激烈的战斗之后，广西军队于1929年6月底遭到惨败。
1930年夏，汪精卫在北平举行了一次国民党的“扩大全体会议”，阎锡山将军、冯玉祥将军都出席了这次会议。心怀不满的李宗仁也出席了这次大会。阎锡山同意领导一个由反蒋派组成的“国民政府”，以对抗蒋介石的那个“国民政府”。他于9月9日正式就职，这个新政府似乎是有意选民国十九年九月九日上午九时这么一个良辰吉日宣布成立的。正如他们对蒋介石所指出的那样，“九”这个字在中文里正好与“久”谐音。
佛朗哥经过了差不多32个月艰苦和血腥的战争才成了整个西班牙的主人，而蒋介石只花了12个月时间——其中头9个月是在1926年和1927年之间。随后是一个政治上的休战时期；后3个月是在1928年4月至6月就“征服”了面积比西班牙大7倍的中原。
蒋介石从此获得了对华中、华南的实际控制权，而不再仅仅是名义上的控制权了。
当时的局势既荒唐又具有某种悲剧性。在国民军占领北京后，中国全国共有220万军队。如果把各式各样的正规军及杂牌军加在一起，那么，这支军队在当时相对和平的世界上可以算得上是人数最多的一支军队。
尽管从严格的意义上说，佛朗哥对西班牙的征服与蒋介石对中国的所谓征服是不可比的，但如果将这两者之间的不同列举出来，也不无益处。
7月31日，南昌有三个人埋伏在路边向蒋介石的汽车射击，但他们没能击中目标。这三个刺客被捕后供认说，他们是广东政府派来的。
1931年，蒋介石、宋美龄登上美国《时代》周刊封面
1931年11月7日，毛泽东的事业迎来了一个高峰。中华苏维埃共和国在这一天宣布成立（之所以选定这一天是因为这一天是十月革命的周年纪念日）。11月27日，毛泽东当选为中华苏维埃共和国主席，朱德当选为军事委员会主席，周恩来当选为军事委员会副主席。
基督将军冯玉祥是蒋介石接下来要对付的人。当冯玉祥在2月份从裁军会上中途退席之后，他所要达到的第一个目标是加强自己对山东的控制。当时，在经过长期的谈判之后，日本军队已准备撤离胶济线。
中国共产党此时也出现了严重的内部分歧。
尽管毛泽东认为李立三是在瞎指挥，但他所处的位置又使他不好公然违抗李。1930年7月27日，红军轻而易举地占领了长沙这个实际上没有设防的城市。在对长沙进行了10天的占领之后，红军又被国民党军队赶了出来。
接着，红军又勉强进行了一两次攻打大城市的尝试。由于武汉三镇周围防守严密，红军根本靠近不了这个城市。在李立三要攻打的所有大城市里，当地的共产党组织都遭到了毁灭性的打击。
他们只是以一种中国传统的方式承认蒋介石比自己强大，因而才决定顺风转舵。这就是蒋介石在战场上为什么能够推进得如此迅速以及国民军能在1928年号称拥有200万人，比最初的10万人增加20倍的原因。
各种反叛在广州及平汉轴心爆发。汪精卫在广州再次宣布成立一个独立的政府。令蒋介石惊愕的是，孙科与陈友仁也参加了这个政府。
1929年，蒋介石试图通过裁军来削弱地方军阀的势力，结果引起一场危机，这使他深切地感到自己权力之有限。其他任何事都不曾像这使他清醒地认识到这一点。
这时，东北发生的一次中苏冲突挽救了冯玉祥的命运，但这也只是暂时的（苏军在1929年11月17日进入东北，打垮了数月前占领中东铁路的中国部队）。具有讽刺意味的是，苏军是由加伦将军指挥的，他在几年前曾担任过蒋介石的军事顾问。
这不禁使人回忆起冯玉祥当初背叛吴佩孚的行为。冯玉祥完全信任他驻守河南的指挥官韩复榘，但韩已经被蒋收买，并在5月底投奔到蒋介石一方，带走了3个师长以及冯玉祥的10万精锐部队。一个被收买的师长由于善于要价而闻名一时，不久他又脱离了蒋介石的阵营。
冯玉祥回忆说，在这次会议开始的时候，蒋介石将所有的与会者领到一幅孙中山的画像前，坚持要每个人都向画像宣誓效忠。
在后来的岁月里，蒋介石的权威多次受到地方军阀的挑战。虽然蒋介石总是胜利者，但这些接连不断的地区战争消耗了他的力量，并使他无法集中注意力来处理中国真正面临的问题。与此同时，中国共产党的根据地正在日益扩大。此外，从1931年起，蒋介石还要应付日本侵略者所造成的巨大威胁。
当时，广西的将军们拥有一支23万人的军队，冯玉祥手下拥有22万人，阎锡山有20万人。至于国民政府——也就是蒋介石本人——拥有大约42万军队。李宗仁、冯玉祥、阎锡山等人很快就意识到蒋介石的裁军建议是大规模地裁减他们的军队，同时又加强他自己的军队（这些军队在名义上隶属于中华民国中央政府）。
佛朗哥消灭了自己的敌人，在战场上击败了他们，并将残余的敌人流放或处死，而蒋介石却满足于对手们形式上的屈服。
一天下午，蒋介石邀请冯玉祥去南京郊外洗温泉浴。当他们洗完用毛巾擦身的时候，蒋介石说：“人们常说，谁控制了北京、广东、上海和武汉，谁就控制了全中国。”冯玉祥认为蒋介石这是向他暗示，让他对控制着这些地区的军阀采取行动。他含糊其辞地回答说：“作为一个全国性的领导人，你必须大度一些，只要你能赢得军队和民众的支持，他们占领了这些地方也无关紧要，他们也都将是你手下的兄弟。”
9月中旬，蒋介石召开了中央执行委员会全体会议。他在会上用讽刺的语调，不指名地攻击国民党内某些人腐败、堕落、滥用职权、贪赃枉法，并说所有这些使得一些新鲜血液流入了共产党的阵营。
在随之而来的战争中，阎锡山出人意料地保持了中立，而冯玉祥由于10万精锐部队倒戈，又连吃败仗，故在11月底冯玉祥的部队被赶出了河南。
2月21日，汪精卫也卷了进来。他发了一封电报，谴责南京政府受贿、腐败、独裁。由于厌倦了这场文字游戏，阎锡山突然在自己控制的省区没收了南京政府的财产，解除了中央军的武装。两周后，也就是1930 年4月初，他就任反蒋部队总司令的职务。为了便于指挥部队，冯玉祥担任了阎锡山的副手。此后，他们进行了6个月的极其血腥的战斗。
此时，中国共产主义运动涌现出两个杰出的人物：毛泽东和李立三……在“文化大革命”期间，李立三由于受到忠于毛泽东的红卫兵的刺激而自杀身亡。
然而，在1931年秋，蒋介石面临着令他沮丧的局面，一方面共产党逃过了打击，另一方面，他自己的权威仍受到来自国民党内部的挑战，而且日本人正在向中国发起进攻。
和过去一样，政府实施税收的能力是对政府进行衡量的尺度，在击败了桂系军阀之后，国民政府可以在全国22个省征收税金。
蒋介石现在又一次掌握了政治上的主动权。1930年10月10日，他发布了一个纲领，其中包括“根除共产主义”、重建财政、实施廉洁而有效的行政、发展经济及区域自治等五项任务。那些沮丧的北方反对派领导人，如汪精卫、冯玉祥、阎锡山等正式接受了这一纲领，并自动宣布下野。
确实，阎锡山在1930年2月10日首先发难，他打电报给蒋介石，要蒋介石放弃武力统一中国的主张并立即辞职。此后几周，蒋、阎两人之间的长篇电报往来异乎寻常地频繁起来，正如蒋介石的文字秘书所说的那样，“他们好像要打一辈子电报似的”。
1948年9月1日，冯玉祥在一艘苏联客轮发生的火灾中神秘地死去。
1930年革命失败的一个主要影响是，它证明了毛泽东的正确。
由于蒋介石急于迅速取得成功，因为这会给他带来一时的荣耀和威望，所以他忽视了在一个封建的国家里进行领土征服所应注意的唯一正确的原则，那就是:他应该除掉那些最初反对他的人，用自己选定的人来代替这些人，而新选出的人应该忠于新生的民国，并忠于民国首脑蒋介石。
令冯玉祥和日本人吃惊的是，蒋介石要求日本人暂缓撤离，以便让他自己的军队——而不是冯玉祥的军队——接管日本人撤离的地区。作为报复，冯玉祥调动自己在河南的部队，切断了该省的铁路交通。当时，他对蒋仍是个可怕的潜在威胁，但蒋介石比他棋高一筹，蒋介石通过策动冯玉祥部下叛变战胜了冯玉祥。
