於是，蔣介石第三次摁動白崇禧這個撳鈕。白崇禧不得不依照蔣介石的意思批評李宗仁不應該在美國給“總統”以難堪。
蔣介石光是利用白崇禧，在他複職“總統”之後，並沒有讓白崇禧出任“行政院院長”，而是隻給了他“戰略顧問委員會副主任委員”的虛銜，這個委員會主委是何應欽。
白崇禧抵台之後不久，全家20多人都遷來台灣。有人問白崇禧，怎麼那樣“笨”，別人都忙著為子女辦出境證，讓他們離開台灣。白崇禧卻說：“大陸丟了，我們是現役軍人，負很大罪過，‘中央’不處罰我，自己良心自責。台灣是複興基地，我們手中的‘領土’就隻剩這一點點，希望在這生根發展回去，除此之外，現役軍人死無葬身之處，跑到哪裏去？”白崇禧的這些話，同樣言不由衷。
1952年10月，國民黨在台北召開“七全大會”（也就是第七次全國代表大會），除了組建了新的中央委員會，同時還設立了“中央評議委員會”，以安置那些“黨國元老”。所有上了歲數的在台國民黨六屆常委都被選為“中央評議委員”，隻有白崇禧一人向隅。不言而喻，蔣介石對白崇禧“另眼相待”。蔣介石此舉，引起諸多“黨國元老”的不滿，公推於右任、居正兩位長者麵見蔣介石，希望能夠把白崇禧列入“評議委員”。蔣介石打哈哈，隻是說了句“健生的事，我知道，我知道！”此後並沒有做出改正，白崇禧仍然沒有當選“評議委員”。
白崇禧不僅當不上“評議委員”，就連“中國回教協會理事長”也當不成了。白崇禧是國民黨高官中不多見的回教徒，1938年當中國回教協會在武昌成立的時候，白崇禧就是首任會長，翌年改稱理事長。到了台灣之後，白崇禧依然是“中國回教協會理事長”。白崇禧熱心於台灣的回教事業。台灣原本幾乎沒有回教徒，也沒有清真寺。1949年蔣介石帶領百萬軍政人員及家屬從大陸遷往台灣，內中有許多像白崇禧這樣的回教徒。在白崇禧的努力之下，台北建成了清真寺，成為回教徒們的活動中心。
約旦侯賽因國王繼位不久，於1955年訪問台灣。白崇禧作為“中國回教協會理事長”，理所當然出麵接待侯賽因國王，並陪同侯賽因國王訪問台北清真寺。白崇禧向侯賽因國王說起，他的祖先是中東穆斯林。侯賽因國王邀請白崇禧將軍率領回教代表團訪問約旦及中東。這原本是很正常的宗教來往，可是蔣介石得知之後，不準白崇禧出訪中東，生怕白崇禧離開台灣之後一去不複返。
為了避免伊斯蘭國家再度邀請白崇禧出訪，蔣介石暗示“中國回教協會”進行改組，即把理事長改為主席。改選時，回教協會原常務理事時子周當選為主席。這樣白崇禧擔任多年的“中國回教協會”理事長就畫上了句號，以後再也沒有機會參與接待來訪的伊斯蘭國家代表團。連回教協會理事長這樣的宗教團體職務都被勾銷，其處境艱難可見一斑。
光是落選倒也罷，反正那些職務都是虛銜而已。蔣介石始終把白崇禧當年跟李宗仁一起三次逼他下野記在心頭，總想“清算”白崇禧。
機會終於來了。1954年“國民大會”一屆二次會議在台北召開，白崇禧作為“國大代表”出席會議。但沒有想到，會上居然有40多名“國大代表”對他提出“彈劾”，羅列的罪狀有三：
第一是私吞中央銀行黃金7萬兩；
第二是私吞漢口中央銀行庫存白銀370餘萬兩；第三是在徐州會戰中，不遵守調令，擁兵自重。
彈劾案要求“追究責任，以明是非，振紀綱而知複興”。
白崇禧馬上進行反擊，他給每位“國大代表”發了一份答複書，駁斥對他的種種指控。白崇禧的答複書很快就在香港《工商時報》上登了出來，海外輿論嘩然，指出“彈劾”白崇禧實際上是在清算李宗仁，清算桂係。
這麼一來，蔣介石覺得再“彈”下去，適得其反。這場彈劾案也就不了了之。
與白崇禧一起來台灣的桂係李品仙將軍，雖然沒有像白崇禧那樣挨整，但是被蔣介石閑置，無所事事。李品仙將軍熱心為街坊辦事，當起義務“居委主任”。李品仙原本文科出身，喜歡寫詩，自嘲雲：
昔統百萬兵，
今為百戶侯，
得與民甘苦，
樂歲以忘擾。