正在雙方即將最後訴諸武力的時候，段祺瑞為了掩人耳目，向徐世昌做了從此不管一切閑事的表示之後，就到團河“避居”去了。徐世昌、靳雲鵬再三請他回京，他都拒絕了。實際上，他是躺在陰暗的角落裏，為一場你死我活的大廝殺緊張地做著準備。在他的授意下，駐北京的皖係將領以營房不足為借口，發出了拒絕直軍移駐北京的通電。5月17日，他在這裏召開了秘密會議，作出了一係列軍事部署，召回了徐樹錚，將西北邊防軍全部調回了北京附近。他要先發製人，親自出馬擔任川陝剿匪總司令，準備用聲東擊西的辦法，即率領邊防軍兩個師以向陝西進軍為名，奪取河南，驅逐趙倜，在鄭州安營紮寨，並在這裏與安徽、山東的皖係軍隊共同夾擊吳佩孚的軍隊。豈不知螳螂捕蟬，還有黃雀在後。正當他要主動出擊之時，張作霖以邊防軍出動，北京防務空虛為名要把奉軍開進關來“拱衛京師”。這個後顧之憂，迫使他不得不放棄了原來的部署。
5月20日，吳佩孚從湖南衡陽向北撤兵，並按照秘密約定，直軍後撤，湘軍跟進。接著，湘軍與皖係軍隊開戰，段祺瑞手下的戰將張敬堯被趕出了湖南。段祺瑞馬上振振有辭地譴責南方破壞了和平，要求北京政府明令討伐。他還指使陝西、甘肅、安徽、山東、浙江五省督軍聯名發出要求北京政府查辦吳佩孚“勾敵”的通電。6月初，吳佩孚抵鄭州，軍隊分駐河南、河北，擺開了同皖軍拚命的架式，戰雲密布中原大地。這時，自稱是“第三者”又說公道話的張作霖滿麵笑容地來到了北京。誰都知道，張作霖自居於調人，但不是調人，而是配合直係倒皖的。目空一切、態度傲慢的段祺瑞一反常態，彬彬有禮地接待了幾天前還被他破口大罵為“馬賊出身，不配算北洋派，居然敢來幹涉北洋派事情”的這位“調人”。調停開始時，他固執己見，不肯讓步。後來，張作霖以離開北京、不管閑事相威脅時，他又心慌意亂，主動去討價還價。當僵局似乎有點鬆動和轉動的時候，徐樹錚等人又給他燒了一把火，說解散安福係、撤銷邊防軍等條件超過了限度，不為督辦留有餘地，我輩今後也抬不起頭來了。一番鼓噪，他的“虎”氣又上來了，氣鼓鼓地說：“我們不能再讓一步！”
定國軍丟城失地，段遞辭呈於徐大總統
在曹錕、張作霖裏應外合的鼓動下，徐世昌於7月4日下令免去了徐樹錚西北籌邊使、邊防軍總司令等職，並將邊防軍改歸陸軍部。這一刀如同挖了段祺瑞的心肝，他大發雷霆，大罵不已。第二天，他就以邊防督辦的名義命令邊防軍緊急動員、徐樹錚“照常辦公”。接著，他在將軍府召集全體閣員及軍政人員舉行聯席會議，決定討伐曹錕、吳佩孚，並宣布邊防軍改為“定國軍”，自任總司令，徐樹錚任參謀長，段芝貴為第一路軍司令兼京師戒嚴總司令，曲同豐為第二路軍司令兼前敵司令，魏忠瀚為第三路軍司令，同時，向徐世昌遞交了一份滿篇是叫罵殺伐的呈文。會後，還派兵包圍了總統府，逼迫徐世昌下令罷免曹錕、吳佩孚等人的官，還要將吳佩孚交陸軍部“依法嚴懲”。他聲稱：“大總統任免黜陟，不能為一黨一派所挾製；關於徐樹錚、張敬堯免職，餘不過問，惟湖南問題，四省經略使曹錕任吳佩孚自由撤防之罪，不可不問；餘為維持國家綱紀計，必興問罪之師。”其實，兵困總統府本身是一黨一派的挾製行動，至於他口口聲聲說“維持國家綱紀”，也是掛羊頭賣狗肉，是軍閥們爭權奪勢、互相廝殺時的一塊招牌和慣用的手法而已，可見軍閥們隨心所欲地對待事物，是從來不講真正的道理的。將軍府會議之後，段祺瑞又回到了團河。這時，可能因忙於戰爭的緣故，他“兩顴發紅，精神頗有錯亂之象”了。
段祺瑞劍拔弩張之時，直係軍閥也不示弱，組織了“討逆軍”，吳佩孚為前敵總司令兼西路總指揮。7月10日，“定國軍”向“討逆軍”發動了進攻，直皖軍閥之間的廝殺開始了。
在口誅筆伐中，7月13日，吳佩孚發出的出師討賊電文，矛頭直指所謂“創建民國至再至三”的上將軍段祺瑞，打破了北洋派的傳統，撕掉了用“清君側”作為自己用兵的遮羞布，一改那種為“尊者諱”而不直接攻擊段祺瑞的虛偽麵孔。這反映了北洋軍閥集團內部矛盾之深化，也是它分崩離析、日益衰敗的表現。正因為如此，這個電文雖是一派之見，也有助於人們認識段祺瑞的廬山真麵目。電文中說：“自古中國，嚴中外之防。罪莫大於賣國，醜莫重於媚外。窮凶極惡，漢奸為極，段祺瑞再秉國政，認仇做父，始則盜賣國權，大借日款以殘同胞；終則導異國之人，用異國之錢，膏吾民之血，絕神黃之裔。實敵國之忠臣，民國之漢奸也……”可以看出，這個電文言辭之尖銳，情緒之憤怒，是擊要害而又毫不留情的。另外，還有順直省議會、天津總商會、直隸全省商會聯合會宣布段祺瑞罪狀的電報，以披露鮮為人知的內幕，剝去段祺瑞種種畫皮而見醜。電文中指名道姓地列數了他的八大罪狀，除了“目無總統，任意橫行”；“信任曹陸，借用日款”；“任用權術，利用金錢收買下級軍官”；“組織安福俱樂部”；“任用爪牙徐樹錚，種種作惡”；“吸食鴉片，行賄賂”；“自謂淡泊無欲，維持國家紀綱，以欺天下”外，又用大量的事實戳穿了他“向以清廉自命”的偽善麵目和“生平廉潔自持”的傳說。電文寫道：“海內不知其底蘊者，不免為其所愚。今試查天津意租界段氏之宅，為誰所賄送乎？則徐樹錚於民國元年所得漢陽之款，以十三萬元分潤於段氏也。又試查北京新造段氏之宅第，為誰所賄送乎？則曾雲霈以安福係之黨費，為之興造春夏秋冬四季式房屋，以貢獻於段氏也。複辟討逆所餘之款二百萬元，盡入囊中。中日彙業銀行一百萬元之股份，眾所共聞。其他各銀行、各公司之股，莫不有段氏之堂名。清廉者固若是乎。陽飾清廉，陰實貪瀆。以致為徐曹等僉壬所牽製，為所欲為，貽害國家。”常言道，觀人必於其微，由小可以看大，中國近代軍閥並不隻有一副滿臉橫肉、赳赳武夫的麵孔，他們也善於偽裝和經常改換臉譜。不是麼，段祺瑞如此“貪瀆”，可平時卻極力向人們灌輸儒佛道德觀念，天天誦經念佛，滿口“仁義禮智信”，其目的無非是愚弄百姓，掩蓋自己的醜行。可以說，這也是軍閥們的一個共同的特點。