不僅是吳俊升，其他人也都拒絕北京政府的“任命”。5月15日，馮德麟和袁金鎧，史紀常和吳俊升一起發表通電說：“北庭亂命，免去張巡閱使本兼各職，並調任德麟等署理督軍等語。德麟等對此亂命，拒不承認，合電奉聞。”表明奉係仍以張作霖為中心，這是後來張作霖得以東山再起的一個重要條件。
曹錕、吳佩孚並不甘心，他們又唆使原吉林督軍孟恩遠在東三省發動叛亂，企圖動搖張作霖的統治。
孟恩遠1919年被張作霖逐出吉林之後，一直耿耿於懷，總想伺機卷土重來。如今張作霖成了敗軍之帥，孟恩遠以為機會來了，便躍躍欲試，企圖恢複舊有的權力。1922年5月上旬，他跑到天津找到吳佩孚，希望吳佩孚和直係支持他。吳佩孚也認為，可以利用孟恩遠在東三省製造動亂，他鼓動孟恩遠說：“要做督軍必須自己打天下，現成的督軍是沒有的。”他要孟恩遠回東北組織力量打擊張作霖。聽了吳佩孚的話，孟恩遠當下便找高士儐協助。高士儐早有東山再起的念頭，遂自告奮勇地表示願意去海參崴策動舊部盧永貴發動叛亂。為了使高士儐的活動合法化，吳佩孚又讓北京政府任命高士儐為討逆軍總司令。
在高士儐的策動下，5月26日，黑龍江綏芬河山林遊擊隊司令盧永貴發表通電，宣布獨立，推舉高士儐為奉吉黑三省討逆軍總司令。隨後，高士儐、盧永貴便率部將中東鐵路五站等地的駐軍包圍繳械，然後乘火車由綏芬河西進，企圖一鼓作氣攻陷哈爾濱。後院起火，對張作霖威脅極大，當時正值新敗，張作霖派不出更多的兵力鎮壓叛亂，思前想後，他決定起用不久前投靠自己的張宗昌。
張宗昌，字效坤，1881年生於山東掖縣。其父為喇叭匠，其母為巫婆。他年幼時，曾隨父親製作喇叭，到過東北的營口等地。後來，他流落到北滿當土匪，還在海參崴的華商總會當過門警小頭目，並因此學會了幾句俄語。武昌起義爆發後，因革命派在關東招募兵馬，張宗昌乘機率領胡匪百人到煙台，投靠了山東民軍都督胡瑛，並當上了光複軍的團長。國民黨的“二次革命”失敗前後，張宗昌背叛了國民黨，改投北洋係的馮國璋。1916年春，張宗昌被袁世凱收買，派自己手下的營長程國瑞暗殺了正在上海策動反袁的陳其美。此後，他又被馮國璋先後提升為旅長、師長。20年代初，張宗昌所部駐在江西時，因在贛南鬧餉被江西督軍陳光遠遣散。張宗昌丟了軍隊，孤身一人，先想投靠曹錕，但遭到吳佩孚的反對而未成，無可奈何之下，他隻身來到奉天，轉投了張作霖。
張宗昌的聲譽不好，綽號“狗肉將軍”“長腿將軍”。因此，張作霖對張宗昌的來投並不感興趣，也沒有重用他，隻讓他當了個憲兵營長，但張作霖認為，張宗昌雖是不學無術的敗軍之將，但他願來投靠，就不能太虧待了他，故他對張宗昌仍待之以禮，拿出足夠的經費，供其吃喝玩樂。
有一次，張宗昌和張作霖手下的將領玩牌九賭博。一夕之間，他把所帶來的10萬元錢全輸光了，心裏自然很不快活。張作霖聽說此事之後，為了安慰他，便把那天晚上和張宗昌賭博的人全找來。他親自幫著張宗昌和大家一起再賭。那些將領們見老帥興致如此之高，也都不好拒絕。不料開賭後，張作霖如得了好牌，便亮出來喊“通吃”，牌不好時，張作霖便不亮牌，卻也大喊“通吃”。就這樣，張作霖很快便幫張宗昌贏了近20萬元，不但把前天輸的錢撈了回來，還賺了不少。不過，贏是贏了，輸家當然不服氣。張作霖也知道，第二天，他又把那些輸錢的人找來，坦率地對他們說：“效坤乃好漢，當世豪傑，係遠道邀來作客者，你們將他的錢一吃而盡，斬了他的興致，置我的情麵於何地呀！因此，我要幫他賭。我之所以不亮牌，就是要把你們贏得的不義之財收回還他。”聽張作霖這麼一說，大家明白了大帥的苦心，也就不再計較了。這雖是一件小事，卻足以說明張作霖對張宗昌的照顧確實周到細致。
也正因為如此，張宗昌盡管隻當了一個營長，對張作霖卻並無怨言。他雖然一向傲慢，在張作霖麵前卻服服帖帖，一見張作霖就叩頭。