徐世昌以“文”臨“武”，周旋於各派軍閥之間，操縱各派爭鬥來維持其地位。其出任總統時，皖段即從“徐與北洋派關係甚深，平日於直、皖之間，尚無偏倚，又係文人，舉任總統即可以平直係之心，而於己亦無力能加限製也。”徐出任後，段雖無國務總理的頭銜，北京政府卻在其掌握之中，但直曹、奉張都想問鼎北京政權，而且皆有帝國主義支持的背景。日本因段的“武力統一”政策及媚外賣國行徑經“五四”運動的打擊越來越喪失人心，遂在扶植皖段的同時，又扶植奉張，美、英回到中國這塊角逐場後，放出“和平”空氣，導演“南北議和”，正是針對日本獨霸中國的現狀而來的。吳佩孚以一個師長，在北洋軍閥中輩分較低，敢於領唱“罷戰主和”，和皖段大唱反調，正是此種背景使然。此時，徐世昌正是漂浮在直、奉、皖及美、英、日爭鬥的波濤上的一葉危舟。
直、皖矛盾在“五四”運動中更加加劇。段祺瑞想以安福係親信王揖唐取代鎮壓學生運動無能的錢能訓；徐世昌則欲以任東三省總督時的部屬周樹模出組新閣。雙方爭執不下，遂出現了財政總長龔心湛暫代的過渡局麵。繼而正式組閣的靳雲鵬，即是皖係中人，也是徐的門生，同曹錕、張作霖均是兒女親家，故為各方所接受。靳內閣在人選問題上又成為爭執的焦點：段堅持以李思浩、姚震、朱深、曾毓雋任“三長一秘”（即財政、司法、交通三總長及國務院秘書長），徐、靳提出的人選遭到段祺瑞、徐樹錚和安福國會的反對。段祺瑞頤指氣使，對靳雲鵬不假詞色，大加責斥，致使靳多次提出辭職。徐世昌敷衍拖延，直曹、奉張電請留任。最後李思浩任財政總長，朱深任司法總長，曾毓雋任交通總長，放棄秘書長職，同時否定靳提出的教育、農商人選。內閣人選問題暫時解決，但直、皖矛盾仍未緩和。
吳佩孚於1920年1月通電撤防北回，直曹、奉張結成七省反皖聯盟，段祺瑞積極部署，將借“參戰”名義編組的“參戰軍”（已改名“國防軍”“邊防軍”）調回至北京附近待命，並擬在鄭州設立司令部，在河南與直軍決戰。直曹奉張也積極策劃。3月，張作霖借做壽邀請反皖各省督軍代表在沈陽舉行秘密會議，推薦其親家張勳代倪嗣衝為安徽督軍。4月9日，曹錕又借追悼直係陣亡將士之名，在保定召開八省聯盟會議，5月14日，靳雲鵬辭職，海軍總長薩鎮冰暫代總理。6月，吳佩孚北撤至保定，奉軍四營也以“拱衛京師”為名，由獨流移至廊坊。直、皖劍拔弩張，戰爭一觸即發。徐世昌電召曹錕、張作霖入京與段祺瑞協商，段對靳複職和安福係三總長退出內閣兩點勉強同意，至於解散安福俱樂部，撤回北方和議總代表王揖唐，解除徐樹錚兵權等，均非段所能接受者，6月29日，徐再邀段、張會談，並提出折中性辦法，段不表可否。次日，皖係要人會議激烈反對，主張徐將邊防軍改歸邊防督辦直轄外，其他概予拒絕，會談失敗。7月1日，曹吳發表反皖通電。6日，徐邀請張再作最後調停，因段堅持要懲辦吳佩孚而使會談毫無進展。次日，張作霖離京赴軍糧城，且發表“局外中立”宣言。奉軍以軍糧城為中心7萬餘人，形成援直圍皖態勢。徐世昌看到倒段形勢成熟，於7月4日不顧段祺瑞反對，下令裁撤西北邊防軍總司令，西北籌邊使由李垣護理，特任徐樹錚為遠威將軍，所轄部隊歸陸軍部管轄，段聞訊怒火衝天，於7月5日，下令邊防軍緊急動員。次日，召開閣員和軍政首腦會議，發布聲明討伐曹、吳通電，呈請徐世昌將曹錕、吳佩孚、曹瑛三人褫職，交段祺瑞親自拿辦。徐世昌害怕激起曹、吳反抗，不敢下令，段、徐（樹錚）派重兵圍困總統府，徐世昌被迫依允，於7月9日，下令將吳佩孚開去本兼各職，交陸軍部懲辦，曹錕褫職留任，以觀後效。同日，段成立定國軍總司令部，自任總司令，徐樹錚任參謀長，分兵三路以待。直係聞懲辦曹、吳令下，發表早已擬好的《驅逐安福係宣言書》《為討伐徐樹錚告全國各界書》。同時，曹錕在天津誓師，任吳佩孚、王承斌為前敵正副司令，指揮中、西路，曹瑛指揮東路。吳發表討段、徐通電，宣稱“親率三軍，直向神京、驅老段，誅小徐”。14日，張作霖發布派兵入關通電，奉係助直倒皖態度明朗。14日直皖雙方交火。同日，徐世昌下令各路軍隊退回原防。密雲欲雨幾個月的直皖戰爭，首尾五天，以直勝皖敗即宣告結束，段祺瑞於19日引咎辭職。徐世昌派員征詢直係罷兵條件，吳領銜直係軍師旅長鎮守使通電提出條件，徐世昌一一照辦：免去段祺瑞督辦邊防事務兼管將軍府事務各職；廢除西北邊防軍總司令一缺；通緝重辦皖係禍首徐樹錚、曾毓雋、段芝貴等15人；解散安福俱樂部；撤銷對曹錕、吳佩孚的處分。皖係從此風流雲散，一蹶不振。