8月9日，靳雲鵬第三次組閣。徐世昌裁四省經略使，任曹錕為直魯豫巡閱使，與張作霖之東三省經略使相埒。徐邀曹、張共同議定四點，直魯豫巡閱使和東三省巡閱使管轄省分中的用人行政大權“得便宜行事”；更換疆吏（督軍）必須共同商榷“以期內外如一”，給予曹、張參與中央用人行政的決策權；鞏固內閣（靳雲鵬），不得已更換時“共相示知”，即內閣人選必須經曹、張通過；中央如有重大事件共助辦理。這反映出中央和地方，直奉兩係之間的權力分配，而北京政府由皖段控製換成直曹、奉張共同把持，英、美、日成為北京政府的共同主子。徐世昌從此在兩派之間走鋼絲，政治生命受到嚴重威脅。
靳雲鵬第三次組閣，排擠了親日的舊交通係，引起奉張惡感。張作霖拉攏舊交通係要角葉恭綽，收買交通銀行股票控製中央財政。靳內閣財政困窘，舊交通係控製的銀行則作壁上觀。1921年12月18日，徐世昌密電召張作霖進京，商議內閣問題。舊交通係乘機發動進攻，靳閣倒台，外長顏惠慶隻暫代6天。12月24日，徐世昌任命舊交通係首領梁士詒為內閣總理。內閣成員9人中，僅內務總長高淩？一人屬直係。梁士詒內閣是奉係捧出的親日內閣。
梁士詒上台後，赦免通緝在逃的皖係軍閥政客。在與日本公使談話中，滿足日本借日款贖回膠濟鐵路的要求，拒付吳佩孚索要巨額軍餉。梁士詒同意借日款贖路，正是全國人民注視的華盛頓會議收回山東的敏感問題。吳佩孚以魯案為題通電全國，揭露梁士詒媚日賣國，“竟允日使要求，借日款贖路”，“是該路仍久日人經營；更益以數千萬債權，舉曆任內閣所不忍為、不敢為者，今梁士詒乃悍然為之，舉曩昔經年累月人民呼號與代表所爭執者，鹹視為兒戲。犧牲國脈、斷送路權，何厚於外人，何仇於祖國？”人民的反日愛國熱忱和輿論優勢，在直吳一邊。梁通電解釋，奉張通電為梁辯護。吳佩孚再次通電全國：“若有袒護梁氏者，即為吾人之公敵，當誓死殺盡，以除國奸。”直係掀起倒閣政潮，蘇、贛、鄂、魯、豫、陝、晉七督起而附和。梁士詒百口莫辯。1922年1月19日吳佩孚領銜聯合致電大總統徐世昌，請“立罷梁士詒以謝天下”，否則，“請解佩孚等之職以謝梁士詒”，提出“萬不得已惟有與內閣斷絕關係”。北京各界聯合會等40多個團體通電宣布梁士詒十大罪狀；誕生剛滿月的梁內閣於1月25日倒台，又以外長顏惠慶暫代，直、奉兩係圍繞梁內閣去留的電報戰，預告著兩軍閥的實戰為期不遠了。
1921年11月12日至1922年2月6日，美國發起召開的華盛頓會議，中國派施肇基、顧維鈞、王寵惠參加。這是帝國主義在第一次世界大戰後根據變化了的實力調整關係和分割殖民地的會議，會上討論了山東問題，美國以門戶開放政策聯合英國迫使日本讓步，放棄了攫取的德國在山東的權益，膠濟路由中國以國庫支付券贖路收回自辦。此點尚差強人意。但華盛頓會議簽訂的九國公約規定，中國必須承認“各國在中國全境之商務實業機會均等之原則”，打破大戰期間日本獨占中國的狀況，又回到幾個帝國主義國家共同支配的局麵。
直奉交惡，徐世昌先後派出張景惠、趙爾巽、孟恩遠出關勸解；繼而又密派其弟徐世章及吳笈孫調停，直方的王承斌、曹銳等亦去遊說勸和。徐世昌於1922年2月25日發表罪己通電，以消釋直、奉成見，拉出鮑貴卿任閣揆，想取得雙方諒解，均無結果。雙方調兵遣將，並以電報罵陣、叫戰。徐世昌又推出與雙方有關係的張錫鑾、趙爾巽、王士珍、張紹曾、王占元、孟恩遠等六人，致電曹張先撤兵，約日天津會晤，消除隔閡。六人又致電吳佩孚靜待調解結果。4月26日，徐世昌以和事佬的狀態下令雙方軍隊從接近地點後撤，4月29日，直、奉兩軍三路同時開戰，西路雙方均以重兵屯集，戰鬥最激烈。吳佩孚先守後攻，前後夾擊，奉軍第十六師投誠，西路失敗，各路總崩潰。張作霖敗退關外。
5月5日，徐世昌看到勝負分明，下令奉軍退出關外，直軍回防。又令嚴懲煽動戰爭的交通係葉恭綽、梁士詒、張弧逮交法庭訊辦，免去接近奉係的三總長。7日，吳佩孚到天津，一再要求北京政府嚴懲張作霖。10日，免去張作霖本兼各職，聽候查辦，裁撤東三省經略使，蒙疆經略使各職。又任命吳俊升、馮得麟分署奉天、黑龍江督軍，袁金鎧、史紀常分署奉天、黑龍江省長。吳、馮、袁、史通電不受亂命。張作霖則於5月12日、6月4日通電宣布東三省獨立自治，自稱“東三省自治保安司令”，並發表通電，披露徐世昌以調解之名，挑撥直奉戰爭的內幕。其一，派其弟徐世章及秘書吳笈孫傳徐之命命令率軍入關，“以資震懾，庶幾總統用人行政，可免為人監視，而得自由處分”。其二，張入關後，又以直軍徒有其名，無能為力，如一戰而勝，則曹、吳授首，總統安心“相挽留。其三，戰敗出關，徐又遣使勸其再戰”，一方麵以命令削其職權，“猶謂敷衍門麵”。張指斥徐世昌“詭譎多端、惟利是視”，使徐十分難堪，無以自處。
徐世昌自任總統以來，向以利用南北矛盾，直、皖、奉各派矛盾操縱平衡，以為自固之計。直奉戰後，失去平衡不僅見恨於奉張又不得不被直係一派控製，直至最後被其拋棄。
直係戰勝奉係後，就如何獨擅北京政權，甩掉徐世昌這個包袱，反複磋商，沒有采取昔日提倡的召開“國民大會”，也不取“聯省自治”方案，卻拋出了“法統重光”的辦法，即恢複民國六年的舊國會，拉出黎元洪複位作過渡，先合法趕走徐世昌，再合法選舉曹錕為總統，這個辦法亦可杜絕西南軍閥口實，搶過“護法”旗幟，“統一全國”。5月14日，吳佩孚密電各省，就恢複舊國會，請黎元洪複位征詢意見，蘇、魯、鄂、浙立即響應。19日，曹、吳聯名通電征求“民意”。舊國會議員80餘人在王家襄、吳景廉指揮下，26日在天津舉行臨時會議，通電全國，依法集會。徐世昌聞訊電令天津警察廳長楊以德禁止，楊知集合為直係所許，對徐的命令置若罔聞。28日，曹、吳複電祝賀舊國會之恢複。孫傳芳通電主張南北兩總統同時退位，齊燮元徑電徐請其下野，徐世昌想戀棧不去，並想以召集新國會，待五年任期屆滿選出新任者後，完滿下台，但無法實現。遂於5月31日在萬般無奈中通電表示，孫（傳芳）所雲“忠言快論”，“本獲我心”，“一有合宜辦法，便束身而退，決無希戀”，6月1日舊國會議員203人在天津集會，通電全國即日起行使職權，宣告非法總統無效，並斥其是偽總統。吳佩孚已不能容忍徐世昌延宕了。李濟臣一天打電話給總統府秘書長吳笈孫說：“吳大帥有電話來，要徐世昌快騰總統府。”後得到王懷慶報告，保定光園會議明確保護徐生命財產及個人一切權利。6月2日，徐世昌通電辭職。此日，為早已柬約的駐英公使顧維鈞述職午宴，徐辦理了去職事項，照常赴宴。入席後，徐舉杯說：“鄙人與諸君此次宴會，一則為顧少川公使洗塵，二則向諸君辭行。”說完淚水欲流，眾人相顧無言。午後2時，席散送客，徐回家休息，3時半率眷屬到前門車站。送行的有全體閣員和政要人物。京畿衛戍司令王懷慶率衛兵一連護送。徐世昌強顏歡笑，向送行者道別，匆匆登車黯然回津。徐世昌從1918年9月當選總統到1922年6月2日辭職計三年零九個月。