就在這時，1927年4月12日淩晨4時，上海響起密集的槍聲，顯示了蔣總司令手中槍杆子的威力。蔣介石下令“清黨”，大批逮捕、槍殺中共黨員，史稱“四一二政變”。
蔣介石走了三步棋：一年前的“三二〇事件”，隻是嶄露頭角的他實行反共的“火力偵察”；接著，《整理黨務案》的通過，表明他決心從國民黨中“分共”；這一回，已經立穩腳跟、大權在握的他，以武力實行“清黨”，亦即反共。
外電急急報道：“在中國，‘KMT’與‘CP’火拚，徹底決裂！”
“KMT”，國民黨的英文縮寫；“CP”，共產黨的英文縮寫。
“CP”當時自然鬥不過“KMT”，因為蔣介石手中握有槍杆子。蕭楚女、陳延年、趙世炎等，一個個倒在血泊裏。
毛澤東倒是從中悟出了一個真理：“槍杆子裏麵出政權！”雖說有人挖苦毛澤東是“槍杆子主義”，毛澤東卻不悔。1927年秋天，毛澤東在湖南發動了秋收起義，然後帶著兵馬上了江西西部的井岡山，走上了用槍杆子對付槍杆子的道路——用毛澤東的話來說，叫做“武裝鬥爭”；用斯大林的話來說，那是“中國革命的特點——以武裝的革命反對武裝的反革命”……
蔣介石呢？雖說他在清共、反共方麵步步得手，可是他在國民黨內卻不負眾望。
他獨攬大權，引起了不滿。那個汪精衛，依然是他在國民黨內的勁敵。雖然汪精衛被迫遠走法國，但他的“影子”仍威脅著蔣介石。
1927年3月10日至17日，國民黨二屆三中全會在漢口南洋大樓召開。會議掀起反獨裁運動。蔣介石、張靜江拒絕出席。毛澤東作為候補中央執行委員，倒是出席了會議。此會推選尚在國外的汪精衛出任國民黨中央常委會主席和國民政府主席，裁撤了原由蔣介石擔任部長的軍人部。這是蔣介石上台後頭一回受挫。
於是，4月1日，汪精衛興高采烈地從法國回到上海。汪精衛成了國民黨左派領袖。
蔣介石發動“四一二政變”之後，以汪精衛為首的國民黨中央下令開除蔣介石的黨籍，免去其一切職務，通緝拿辦。一時間，蔣介石聲名狼藉。
不過，到了7月15日，汪精衛在武漢也實行“分共”，又跟蔣介石走在一起了！
就在這時，蔣介石率北伐軍在與軍閥孫傳芳作戰時敗北，受到各方指責。8月13日，蔣介石宣布下野，辭去總司令之職——這是蔣介石政治生涯中頭一回跌到最低點，離“四一二政變”不過四個月而已！