張勳明白自己的根本任務是為北洋集團開辟東北的灘頭陣地，首要目標就是要替袁世凱把奉天的地方部隊盡可能多地抓到自己手裏。而要作到這一點，他就必須先取得趙爾巽的信任，在奉天站穩腳跟再說。因此，他對趙爾巽裝出一副十分恭順的樣子，滿口表示，此番來到奉天，惟趙將軍之命是從，現既蒙委托總統遼北之師，定當竭力綏靖地方，以為趙將軍分憂雲雲。趙爾巽聽得滿心歡喜。
張勳到了昌圖，立即召開遼北各地原防軍頭目會議，布置剿匪事宜。他知道，不能光憑甜言蜜語打動趙爾巽，最終的信任，還得取決於他的戰場實績，他必須用實際行動來說話。
這時候，遼北鄭家屯駐紮著一支新受招撫的土匪部隊。其管帶名叫張作霖。開會這天，張作霖也應召到場。張勳本來沒把他放在眼裏，也沒指望靠他發揮多大作用。但見麵之下，這名個頭矮小的年輕匪首卻突然“撲通”一聲跪地磕頭，先以大禮伺候，接著抬起頭來說：“總統大人可還認得昔年遼東舊部張作霖？”
張勳摸著後腦想了半天，也記不起是怎麼回事。直到張作霖進一步提示，他才終於記起甲午中日戰爭那年，他擔任宋慶毅軍先鋒馬隊統領時，部下確有一名瘦小機靈的聯絡兵去給依克唐阿部送信時，因戰馬被日軍擊斃，混亂中無法跟依克唐阿軍聯絡，隻得夾在依軍敗兵中徒步跋涉三日，趕回鳳凰城歸隊；軍法官以其辦事未果，議杖責50軍棍，被張勳看見可憐而令釋免。不過，那時的張作霖才剛剛20歲，嘴上還沒長毛，加上他跟張勳直接接觸的機會有限，因而，當時張勳對他沒有多深印象，如今事隔12年，自然很難記起。不過，一旦記起來，卻也感到格外親切。人生如行旅，昔日同路人，今朝偶相逢，雖然身份懸殊，畢竟也是人生一大幸事。張勳始終不忘自己出身寒微，與人交往曆來不計官職門第。開完會後，他就把張作霖留下來，兩人對酌，暢談間，他才知道原來張作霖於1875年出生於奉天海城。就在他當年憤然離開宋慶毅軍的同時，張作霖也退出行伍回到了他的家鄉，隨後便上山當了綠林好漢。由於他勇敢果斷，機敏過人，很快便被弟兄們推為首領。沒幾年，隊伍就發展到二三百人。他雖然當了土匪，心裏卻仍想當官。因而，就在一年前，他接受奉天巡防營務處總辦張錫鑾的招撫，歸附朝廷，又一次當上了官兵。張錫鑾委任他為奉軍前路巡防營管帶，繼續帶領他那二三百土匪兄弟駐防新民屯，不久調防鄭家屯。
張勳知道張作霖目前還未真正取得官方信任。但通過交談，他已看出眼前這名小個子前匪首確非一介等閑之輩。他很懂禮節禮貌，但講話直率而大膽，有很強的正統觀念和升官的欲望，可以認定他歸順朝廷是出自真心的。而且他對奉天各路匪情了如指掌，謀略思想熠熠可見。如果放手把他的作用發揮起來，平定遼北匪患必會事半功倍。想到此，張勳竟當場提出要與張作霖結拜為兄弟。
這突如其來的曠世奇遇，頓使張作霖受寵若驚。他前不久剛剛拜張錫鑾為義父。為了攀上那一層關係，他除了把自己的幾匹最好的坐騎送給了這位義父之外，還另送了整整一萬兩銀子。可是，眼下這位官職比張錫鑾還高，年歲則比他張作霖整整大了23歲，足以為其父輩的總兵大人，不僅未收他分文賄賂就主動和他親近，而且竟願意屈尊跟他結拜兄弟，這真是匪夷所思了！
然而，對於張勳來說，和一名受撫土匪結拜兄弟並不是一件什麼很難為情的事。他在廣西就曾跟陸榮庭結拜過兄弟。而且，他一拜上兄弟，就是真心實意的，並非完全出於功利目的。這一點，聰明的張作霖是不難看出的。這更使張作霖格外感動。不久，事實便證明了張勳的決定是多麼的正確！原來，東北“紅胡子”與其他地方的土匪有著很大的不同，他們不僅兵精糧足，裝備精良，而且有著廣泛的民眾支持。正如當時的官方報告所描繪的“賊至則民為饋送飲食，兵至則妄指歧途”。在這種情況下，若不借重張作霖這樣的地方勢力，要很快取得剿匪的成功是非常困難的。而現在，他以自己禮賢下士、豪爽俠義的奇舉深深地感召了張作霖，使這名受撫後尚未得到官方充分信任因而心懷觀望的前匪首鐵下心來跟著他幹，他的剿匪行動便迅速獲得了進展。
當時，遼西北一帶有個最有勢力的“紅胡子”名叫杜立山，連俄國人和日本人也拿他沒辦法。不拔掉杜立山這根硬釘子，遼北的匪患就別想平息。於是張勳把消滅杜立山作為在遼北用兵的第一個目標，並且把這個任務交給張作霖去完成，並許諾事成之後，杜的部屬全部歸張作霖收編，一切繳獲也歸張作霖所有。張作霖早想吞並杜立山，但過去他的實力不如杜，因而不敢下手，這回有了張勳支持，他便放開膽子來幹。他匹馬單槍闖進杜立山的山寨，詐稱遼北新來的一位張將軍對他心懷惡意，他擔心弄不好會被他宰了，因而想率領原已歸順朝廷的自己那班弟兄重新落草，投入杜首領麾下驅馳。杜立山信以為真，遂隨同張作霖下山喝酒拜把結兄弟。沒想酒過三巡，隻聽得張作霖把酒杯一敲，十幾名彪形大漢突然闖進來，杜立山來不及反抗便成了刀下鬼。張勳不負諾言，把張作霖招降的杜立山屬下400餘人馬連裝備，以及四百餘萬金盧布的財物全部賞給了張作霖。他的這種舉世罕見的慷慨和大度，充分調動了張作霖的積極性。此後，張勳隻需在昌圖運籌帷幄，張作霖便賣力地在遼北各處為他決勝千裏。這對俠義兄弟配合默契，數月之後，遼北治安即告綏靖。這種局麵，過去在奉天還從未出現過。