奉軍雖經苦戰，完全控製了京漢路北段和京綏路東段，卻已無力南進。況且，此後不久，南方各派又重新聯合起來，再度北伐，奉軍更是隻有招架之功，無還手之力了。
當新的一年，即1928年來臨時，張作霖絕望地發現，不但他反攻美夢已完全破滅，而且他那名為“安國軍政府”的北方小朝廷也瀕臨絕境。
懸在頭上的“滿蒙懸案”
正當張作霖為前線的潰退焦頭爛額之時，日本方麵開始乘人之危索取侵略權益。說起來，這也是張作霖自己種下的禍根。當初由於郭鬆齡倒戈，張作霖一度瀕臨垮台的邊緣。為了獲得日本的幫助，張作霖曾私下答應日本提出的條件，即承認日本在東三省和內蒙古東部享有商租權等。事後，張作霖雖然親自去旅大，拜訪日本關東廳長官、關東軍司令官，感謝日本對自己的支持，還派代表拜訪日本駐奉天總領事吉田茂表示謝意，但是，由於張作霖在王永江的提醒下，意識到他答應這些條件，等於承認日本滅亡中國的“二十一條”，便想反悔。為了推翻已經作出的承諾，張作霖玩了一個花招，他讓王永江暗中指使東三省議會出麵，堅決反對上述條件，他自己則以此為借口，拖延不辦。他對要求兌現承諾的日本人說：“等待風頭過去再說吧。”日本人十分惱怒，認為“張作霖說話不算數”“言而無信”“忘恩負義”。此後，日本把它作為“滿蒙懸案”的內容，一次又一次地逼迫張作霖兌現，搞得他不得安生。
非但如此，張作霖還不顧日本反對，堅持自行籌款，在東北修築中國的自有鐵路。
日本自在日俄戰爭中獲得南滿鐵路的控製權之後，不斷地擴大對東北鐵路權的侵略，妄圖壟斷東北的鐵路。20年代初，東北的鐵路交通雖然是全國最發達的地區，但除京奉路以外，中國的自營鐵路卻隻有58公裏。為了發展實業，張作霖不顧日本的反對，於1924年成立“東三省交通委員會”，開始自行籌款，修築中國自營的鐵路。1925年以後，東三省當局先後築成奉天至海龍、吉林至海龍、打虎山至通遼等幾條鐵路，並進一步計劃修築由葫蘆島經由通遼、齊齊哈爾至璦琿，自京奉路經由海龍、吉林到佳木斯的兩條鐵路幹線。日本方麵蠻橫地認為，這些鐵路的修築違反了雙方所簽條約，侵犯了南滿鐵路的利益，等等。但是，張作霖並沒有理會日本的反對，繼續我行我素。日本方麵則不斷施加更大的壓力，以迫使張作霖回心轉意。
首先出麵的是駐奉天總領事吉田，他與張作霖一見麵就提出了一個所謂解決《滿蒙懸案大綱》的草案，要求張作霖務必盡快簽訂。大綱列舉解決商租權、在東三省增派日本警察等要求。張作霖看後，認為不能接受。於是，吉田便對張作霖威脅說：“你要真不接受的話，日方當另有辦法。”張作霖一聽，頓時火了起來，對吉田說：“怎麼樣？你有什麼好辦法，盡管拿出來。難道又要出兵嗎？我姓張的等著你好了。”說罷便站進來送客。
吉田被張作霖頂了回來，很不甘心。當天晚上，吉田派人送來一份最後通牒式的照會，限張作霖三天內答複。張作霖氣憤地說：“哼，三天？我半天就答複。”他讓秘書起草了一份通知，要日本方麵在接到通知的第二天12點鍾以前，把東北的日本僑民全部搬走，聲稱過了12點，東北當局對他們的生命財產便不負保護之責。張作霖這樣做，隻是想回敬一下吉田，而吉田一接到通知反倒慌張起來。他急急忙忙趕到帥府見張作霖，劈頭質問道：“你這是準備開火，請問要打多少年，是不是打十五年？”張作霖回答說：“沒年頭，頭天開仗，第二天把我張作霖打死，我就不管了。”吉田被他那真不真、假不假的話弄得哭笑不得，隻好暫時停止交涉。
事情當然不會這樣輕易了結，隨著形勢的變化，尤其是隨著1927年4月若王貝內閣的倒台和田中內閣的上台，日本政府對待張作霖的態度也日趨強硬。
田中等人一直認為，他的前任，特別是以外交大臣幣原為代表的對華政策過於軟弱，沒有采取果斷措施解決“滿蒙懸案”。因此，上台伊始，田中便決定把對華政策作為最重要的事情來處理，尤其是要加速解決所謂的滿蒙問題。
在敦促田中內閣采取強硬政策的過程中，吉田、森恪、齋藤恒等人也起了很大的作用。田中內閣成立的第二天，一貫主張積極擴張日本在東北侵華權益的吉田，就給外務省亞洲局長木村銳市寫了一封信，為田中內閣出主意。在這封信中，吉田提出四條建議，主要內容為：“1.滿洲和平之維護，凡是能夠布置我軍的地方，不論是否在鐵路附屬地以內或以外，切望交由我軍負責。2.南方軍隊或蘇聯利用經濟界的困難和奉票暴跌而煽動起來的罷工，切望我國當局嚴加鎮壓。3.切望憑借帝國的實力來經營滿洲，無論在什麼情況下，都要放棄細瑣計謀。我們不應該依賴張作霖或楊宇霆或王永江把事情搞成。4.我們經營滿洲最重要的兩點，是東三省的鐵路政策和金融政策。在這個地區，我們應當施行兩個方案：一是擬定一個實用的計劃作為貨幣體製；二是斟酌出一個體製，以便能夠把東三省、日本、俄國和中國的鐵路聯成一線。”非常明顯。上述建議的實質，是日本企圖直接接管東北，將東北變成名副其實的日本殖民地，改變以往利用張作霖等人、羞羞答答地擴大侵略權益的辦法。當時擔任田中內閣外務省政務次官的森恪，和擔任關東軍參謀長的齋藤恒，也持同樣的看法。