就在法軍重新組織炮火，準備發動第二輪攻擊之際。突然，清軍右翼陣地旁的山坡上先行響起一陣“隆隆”的炮聲，還沒待法軍明白是怎麼回事，一發發炮彈已在法軍陣地上、兵叢中掀起血浪。那炮彈居高臨下，彈道筆直，射速迅猛，又刁又狠。法軍毫無防備，全體暴露，數十發怪炮當頂砸下，立時被炸得懵頭轉向，亂作一團。那邊，馮子材猛然想起張勳玩炮的故事，立時盡知其意，心裏一陣感動，立即號令大開壁壘，趁著法軍大亂，一馬當先，挺刀衝向敵陣。清軍見主將率先陷陣，一時如蛟龍出海，餓虎撲羊，突入法軍陣地，刀砍槍搠，直殺了個暢氣蕩懷。法軍無法抵抗，死傷慘重，丟下遍地槍炮和屍體狼奔豕突，向南逃竄。清軍緊緊追殺20餘裏方才收兵。清點戰場，斃敵400餘人，其中有軍官40餘名，槍炮子彈不計其數。馮子材命令掘坑掩埋屍體後，將所有戰利品悉數收繳入關，不許毀壞。
回到關內，馮子材不及回署，便徑直找到張勳營中，突然對著張勳“噗”的一聲單膝跪地，朗聲稱頌說：“張賢弟功高如山，請受老夫一拜！”嚇得張勳雙膝一軟，連忙倒身回拜，口稱“卑職死罪！”連連磕頭如搗蒜。馮子材連忙將他扶起，說要給他報功，並委派他正式組織一個炮隊，利用新繳獲的法軍火炮和彈藥，專事炮戰。於是，張勳便當了炮隊隊官，職位雖不變，但已直屬馮子材指揮。張勳原管帶的營兵經過淘汰老弱，調補精壯後，全體改行當了炮兵，每8人共使一門，全隊共擁有火炮60餘門，這是中國曆史上第一個專業炮兵隊。不過曆史上沒有記載，以致至今湮沒無聞。
緊接著，清軍進攻文淵州。現在，張勳炮隊成了全軍矚目的威懾力量。隊伍開到文淵州城外屯駐，專修張勳炮火開路。然而，張勳炮隊自組建到出陣，總共不過10天，所有的炮手都隻初步學會裝彈和擊發，沒有一個人知道瞄準，而且任何一門火炮哪怕是出了一點微小的故障，就無法排除，即時變成廢物。因此，當張勳在文淵城外威風凜凜地下令開炮時，炮隊一頓飯功夫射出240餘發炮彈，竟隻有3顆落在文淵城內，算是射中了目標。其餘的一律不知飛向了何處。顯然，這3顆射進城內的炮彈也純粹是瞎貓碰了死老鼠。炮兵隊長這才知道，原來打炮不會“吊線”還真不行。他那個“吊雞巴毛線”的理論，並非處處實用。不過，就文淵州這一仗而言，他那“隆隆”的炮聲總算沒有白響。法軍因日前在鎮南關前吃了清軍炮火的大虧，現在已成驚弓之鳥。當他們發現清軍又有炮時，早嚇得抱頭鼠竄，棄下一座空城讓清軍長驅直入。當清軍的炮彈漫無目的地落在他們逃跑的路上時，他們還以為這是清軍故意延伸炮火予以追擊，心裏暗暗驚歎清軍炮兵的厲害。於是，張勳雖然打炮手藝欠佳，但功勞卻也非同小可。他使清軍兵不血刃，唾手奪回了一座州城。城內越南居民歡欣鼓舞，敲鑼打鼓放鞭炮，歡迎清軍進駐，殺豬宰牛，抬酒獻花犒勞將士；成立“忠義團”，打起馮子材旗號隨軍助戰。
就在清軍歡宴慶功之際，越南忠義團團員突然押進幾名當地教民，獻到馮子材帳下。經審問，才知他們原來是法軍逃跑前故意留在城裏潛伏，伺機專門刺探清軍炮兵機密的。馮子材曉以大義，優禮待之，並命張勳把他們領去當了炮兵教習，以立功贖罪。張勳一麵密令暗中嚴密監視，一麵放手讓他們教習炮隊官兵現場操練。當這幾名越南教民發現那讓法軍聞風喪膽的清軍炮兵原來竟是這樣一班貨色時，不由得心裏暗暗發笑。但為保命起見，他們不得不振作精神，一五一十地向張勳炮兵隊官兵講清了這些法國火炮的結構性能和使用、維修方法。張勳炮隊這才真正認識了自己手中的武器，初步弄清了關於構陣、操炮、瞄準、射擊等一整套技術要領。
隨即，清軍圍攻省城諒山。諒山是越北重鎮，河內屏蔽。法軍少將尼格裏親駐其地，以重兵扼守，頑固抗拒。張勳現在新增了本領，選好地形，架起排炮，興致勃勃喝令開炮，對守城敵軍實施炮火覆蓋。幾名越南教民被押在旁邊檢查效果，如所教不實，即行處斬。結果證明這一回炮彈命中率果然大有改觀。就在法將尼格裏親自登城觀察陣勢時，一發炮彈恰巧落在他身邊不遠的城堞上開花，飛起的彈片和磚石當場把尼格裏擊成重傷。尼格裏被衛兵抬入帥府搶救。法軍軍心動搖。加上部分清軍已學會了使用洋槍，他們被列在前鋒，舉著前番繳獲的法軍槍支，朝著城上“砰砰”亂放，雖然多屬盲目射擊，但槍多彈密，仍對守城法軍構成了嚴重威脅。法軍剛剛縮下脖子躲避槍彈，那邊清軍大隊人馬已衝到城門口，進入了法軍的射擊盲區，“通、通、通”一頓工夫砸開城門，隊伍如潮水般湧了進來，見著洋裝軍人，揮刀就砍。法軍勢拙，支持不住，胡亂抵擋一陣之後，抬著受傷統帥尼格裏倉皇出逃，總算留下了幾百條性命。清軍打掃戰場，又發現斃敵200餘名，其中光校級軍官屍體就有8具。
諒山既克，廣西方麵清軍乘勝南進，直搗北寧。越南各地人民熱烈響應清軍攻勢，忠義團迅速發展到兩萬多人，一律扯起馮子材軍的旗幟。河內局勢已發生動搖。加上雲南方麵岑毓英、劉永福所率清軍亦屢戰屢勝，奪臨洮，下宣光，眼看整個北越歸複在即。清軍的攻勢威震巴黎，法國朝野輿論鼎沸，政府總理茹費理及其內閣被哄倒台。自從1840年鴉片戰爭以來，這是中國人與外國作戰取得的惟一一次重大戰略性勝利。