師事近三十年。薪盡火傳，築室忝為門生長；
威名震九萬裏，內安外攘，曠世難逢天下才。
此聯的上半，充分道出了李鴻章師事曾國藩而盡得其軍事政治才能的事實。然而，李鴻章入居曾幕，實在是他一生事業的重要關鍵，拜相封侯，悉基於此。至於曾國藩賞識李鴻章，除了曾國藩素知李鴻章才氣過人這一因素外，下麵一件事，也是重要的原因。
李鴻章居曾幕時，曾為曾國藩草奏嚴劾安徽巡撫翁同書，最得曾國藩的欣賞。其時，曾國藩因翁同書對練首苗沛霖的處置失常，以致激成大變，他本人又在定遠失守之時棄城逃走，有愧封疆大吏的守士之責，極為憤慨，意欲具疏奏劾而難於措辭。翁同書是前任大學士翁心存之子，翁心存在皇帝麵前的“聖眷”甚隆，門生弟子布滿朝列，究應如何措辭，方能使皇帝決心破除情麵，依法嚴懲，而朝中大臣又無法利用皇帝與翁心存之間的關係，來為翁同書說情，實在很費腦筋。他最初使一幕僚擬稿，覺得甚不愜意，不願采用，而自己動手起草，怎麼說也不能穩當周妥。最後，乃由李鴻章代擬一稿，覺得不但文意極為周密，其中，更有一段極為警策的文字，說：
臣職分所在，例應糾參，不敢因翁同書之門第鼎盛，瞻顧遷就。
這段話的立場如此方剛嚴正，不但使皇帝無法徇情曲庇，也足使朝臣之袒翁者為之鉗口奪氣。所以，曾國藩看了之後，大為欣賞，即以其稿入奏，而翁同書亦旋即奉旨革職拿問，充軍新疆。就事論事，李鴻章此稿，深得奏議文字的“辣”字訣，使人無可置喙於其間。李鴻章有此吏才，足以便曾國藩對他刮目相看。
李鴻章在軍務方麵也常常為曾國藩出謀獻策。1860年6月，清廷命曾國藩署理兩江總督，督辦圍剿太平軍事務。曾國藩率大營進駐安徽祁門。祁門在長江之南，位於黃山之西，四周山丘環繞，形如鍋底。曾國藩認為，隻要占領四周製高點，扼守要路，足以自守。但李鴻章則認為：“在這種地方紮營駐兵，乃是兵家之忌。這是兵法上所說的‘絕地’。不如及早轉移，選擇有利地形。以便進退自如”。
從純粹的軍事觀點來看，李鴻章的話是頗有見地的。但曾國藩沒有接受李的意見。李鴻章反複力爭，堅持己見。最後，曾國藩氣憤地說：“諸位如果膽怯，可以各奔前程！”李鴻章見狀便不敢再多言了。
其時，曾國藩軍中又發生了另一件事，即李鴻章不同意曾國藩彈劾李元度，使李鴻章暫時離開了曾國藩幕府。
李鴻章的出走，從心理上說，是其雄心壯誌久久不得舒展的情緒衝動。他追求青史留名，要的是封一路諸侯，而不是屈居人後。他在詩中抱怨“昨夢封侯今已非”，做夢都想踞有一塊地盤，對寄人籬下的狀況感到不滿。曾國藩為此曾安慰他：“觀察閣下精明強悍的神色流露在眉宇之間，寫字則筋骨勝於皮肉，象不會長期置身於玉堂，帶玉器優遊。假若要當四方諸侯，按圖索驥，不是南方的兩粵，就是東方的三吳。”曾國藩果然看得準，1862年，李鴻章得以去搶三吳這塊地盤。但在此前，李鴻章卻常因此而鬱鬱寡歡，或是吟“愁彈短鋏成何事，力挽狂瀾定有人”；或是歎“鬱鬱鬆楸望不開”，“空將雙淚寄泉台”；或是發牢騷！當時湘軍內部門戶之見極深，李鴻章作為皖人雖居高位，卻被占據要位的絕大部分湘人所排擠。那種克製忍讓、忍辱負重的生活，令他感到極不舒暢。為此，他常有“戈馬飄零何必家？”“四海無家行路難”之歎。
李鴻章的出走，不排除功利驅使，而意氣用事也是重要原因。李鴻章離開祁門，打算返回南昌哥哥家中。途中走訪了胡林翼，並告知離開曾幕的緣由。胡林翼素知李鴻章有才略，就說：“君一定會發達，但希望不要離開滌生（曾國藩），若沒有滌生，君何以進身？”李鴻章聽後，不以為然，憤憤地說：“我初以為你是豪傑之士，不需要別人而可以發展，今天才知我看錯人了。”言畢，拂袖而去。歸到下榻之地，整裝將行。胡林翼派人挽留，李鴻章脾氣又來了，仍執意要走。後經胡林冀強留，李鴻章才放下了行裝。過後，兩人又每日飲酒暢談，隻是不提曾之事。盡歡多日，李鴻章方才離去。