其一是1927年7月15日，武漢國民政府主席汪精衛通電反共反蔣。以李宗仁、白崇禧為首的桂係、馮玉祥為首的西北軍和閻錫山為首的晉係與蔣介石有矛盾，乘機公開逼蔣介石下野。何應欽以為此時蔣介石岌岌可危，暗中支持桂係。蔣介石不得不“下野”。後來蔣介石東山再起，當然對何應欽心存芥蒂。
其二是1936年12月12日的西安事變，張學良、楊虎城拘捕了正在西安督師的蔣介石，何應欽在南京代行蔣介石的總司令之職，揚言要出兵“討伐”張、楊。孔祥熙、宋美齡主張和平解決。尤其是宋美齡，擔心一旦轟炸西安，蔣介石可能會遭張、楊殺害，因此再三請求何應欽不要出兵。何應欽罵道：“你一個婦道人家懂得什麼？隻知道救丈夫！國家的事，你不要管！”宋美齡不顧一切前往西安，蔣介石明令何應欽停戰，何應欽這才不得不罷休。當蔣介石返回南京，雖然表麵上並沒有批評何應欽，卻心中明白。
不過，盡管何應欽兩度得罪蔣介石，但是何應欽畢竟並沒有像閻錫山那樣曾經公開跟蔣介石決裂，而且閻錫山長期割據山西，搞“獨立王國”，所以相對來說蔣介石還是對何應欽委以重任。在1934年授何應欽陸軍一級上將軍銜。抗日戰爭時期，何應欽任第4戰區司令長官，中國遠征軍總司令。1944年何應欽任中國陸軍總司令。
最為得意的是1945年9月8日上午9時，由8架戰機護航，何應欽乘坐“美齡號”飛機從湖南芷江飛抵南京。翌日——9月9日上午9時9分，南京舉行“中國戰區日本投降簽字典禮”，何應欽作為中國戰區陸軍司令接受日本駐華派遣軍司令岡村寧次大將遞交投降書，成為全中國以至世界關注的新聞人物。
在台灣繼續效忠蔣介石
何應欽奉蔣介石之命舉家先期遷至台北，當時國民黨的“國民政府”尚在大陸，台灣也處於一片混亂之中。何應欽已經沒有“行政院院長”的頭銜，手中又無兵權，“空頭司令”一個。在這兵荒馬亂的時候，何應欽兩眼一抹黑，在人生地不熟的台北連合適的住處都難以尋覓。
據何應欽侍從參謀曾有忠說：何應欽來台北的時候，還把他們原先在南京的床鋪、辦公桌、衣櫃，還有何夫人的梳妝台，都運到台灣，因為這些都是用最好的檀香木做的。
從曾有忠參謀的話中可以看出，何應欽當時是準備在台北長住的。相比而言，閻錫山比何應欽“聰明”，閻錫山來台灣隻帶黃金，有了黃金到哪裏都能施展拳腳。
就在何應欽為住房之事走投無路之際，突然絕處逢生，當時台灣警備總司令紐先銘，原本是何應欽部下，答應幫忙。到底是熟人好辦事。紐先銘找到當時產權歸台灣省物資局的一幢日式別墅，供何應欽居住。這就是牯嶺街61號何應欽官邸的來曆。何應欽沒有想到，從1949年7月住進牯嶺街61號，一住就是38年，他的後半生就在這裏度過，直至1987年病逝。
何應欽還沒有喘過氣來，“行政院院長”閻錫山率閣員們就從大陸退到台灣，隨後蔣介石也從大陸敗退台灣。身為“國大代表”的何應欽表示效忠蔣介石，加入了“勸進”蔣介石“複行視事”的行列。所謂“複行視事”，也就是重新以“總統”身份在台灣掌權。
這樣的“勸進”，對於蔣介石而言，“正合朕意”。不過，這時候遇上了一個“法定程序”上的麻煩：李宗仁已經躲到了美國，卻並未發表卸任“代總統”的聲明。“國大代表”呼籲李宗仁從美國來台灣，辦理卸任“代總統”的手續，把“總統”權力“交還”給蔣介石，而李宗仁總是推托身體不適，“醫囑不能遠行”。倘若要對李宗仁進行“彈劾”，在台灣的“國大代表”又不足“法定人數”。