鄧小平麵對被“四人幫”搞得亂糟糟的局麵，著手艱難的整頓。1975年7月18日，鄧小平派出胡耀邦前往中國科學院負責黨組工作並兼任副院長（院長郭沫若因病休養）。胡耀邦一上任，便著手起草《科學院工作彙報提綱》（簡稱《彙報提綱》）。胡耀邦花了20天，寫出了初稿。用他的話來說，“是拚了一點老命的。”
8月11日，胡耀邦帶著《彙報提綱》到鄧小平那裏去，念了一遍。鄧小平聽罷，說：“很好！”
鄧小平要胡喬木幫助修改《彙報提綱》。於是，胡喬木這枝筆，又“重操舊業”了。
閉門九年，胡喬木讀了不少書，此刻派上用場了。胡喬木為《彙報提綱》指出了點睛之筆：“馬克思說，生產力首先是科學。”這樣，《彙報提綱》強調科學的重要性，就有了理論依據。
胡喬木還為《彙報提綱》加上不少重要的話：
“不搞技術，政治就無所謂掛帥。”
“對理論研究不應任意加以貶低、指責甚至汙辱。”
“不能簡單依靠摘引幾句經典著作加以邏輯的引申就算完事。”
胡喬木提出，必須“突出一個‘扭’字”！“扭”，就是扭轉，把“四人幫”的那一套空頭政治“扭”過來，“扭”到“三項指示為綱”上來。
《彙報提綱》經胡耀邦同誌、胡喬木這“二胡”以及李昌、王光偉反複修改，於9月下旬基本定稿。鄧小平送呈毛澤東，準備在毛澤東同意後作進一步修改下發全國。然而，毛澤東卻未表示同意。
在起草《彙報提綱》的同時，鄧小平又指令國家計委起草《關於加快工業發展的若幹問題》（簡稱《工業二十條》）。這一重要文件，鄧小平仍要胡喬木主持修改工作。
《工業二十條》是整頓工業的綱領性文件。內中尖銳地批評了“四人幫”：“他們口頭上也講黨的基本路線，實際上把兩個階級、兩條道路的鬥爭放在一邊，不抓這個主要矛盾，而是成天鬧人民內部的這一派同那一派的矛盾，新幹部和老幹部的矛盾，你攻過來，我攻過去，沒完沒了，爭權奪利，拉山頭，搞分裂，鬧得企業不得安寧，地方不得安寧，黨不得安寧。”
《工業二十條》還指出：“他們打著反複舊的旗號搞複舊，打著反複辟的旗號搞複辟，破壞革命，破壞生產，把黨的好幹部，把先進模範人物和先進集體打下了台，壞人當道，好人受氣。”
《工業二十條》強調，要整頓那些“軟、散、懶”的領導班子。
《工業二十條》於1975年9月20日完成“討論稿”。
除了主持修改《彙報提綱》和《工業二十條》之外，胡喬木深感手中沒有宣傳陣地不行。
《人民日報》《紅旗》雜誌等都控製在姚文元手中，姚文元如今成了“新聞首腦”。於是，1975年10月6日，胡喬木提出以中國科學院哲學社會科學學部名義籌辦新刊物《思想戰線》。
《思想戰線》創刊號上，擬推出重頭文章《論全黨全國各項工作的總綱》（簡稱《論總綱》）。此文是國務院政治研究室在鄧力群的主持下，根據鄧小平多次講話精神起草的，於10月中旬完成初稿。《論總綱》闡述了毛澤東提出的“學習無產階級專政理論”“還是安定團結為好”“把國民經濟搞上去”三項指示是各項工作的總綱，而把發展生產、實現四個現代化作為各項工作的出發點和歸宿。
又一次“半點名”批判
《思想戰線》未及問世便流產了。
忙碌了一陣子的胡喬木，又退回到家中。
1975年11月，形勢驟變，毛澤東不滿於鄧小平的整頓。11月下旬，中共中央政治局在北京舉行打招呼會議，宣讀了經毛澤東批準的《打招呼講話要點》，指出有“一股右傾翻案風”、“有些人總是對這次文化大革命不滿意，總是要算文化大革命的帳，總是要翻案”。
不久，“批鄧、反擊右傾翻案風”運動席卷全國。在“批鄧”高潮之中，“四人幫”的禦用寫作組集中火力批判《論總綱》《彙報提綱》和《工業二十條》，稱之為“三棵大毒草”。這“三棵大毒草”，棵棵跟胡喬木有關，其中的兩棵還是由胡喬木主持修改的。於是，批判的排炮，朝鄧小平轟擊，也朝胡喬木轟擊。
胡喬木又一次遭到了“半點名”。1976年4月，上海的“幫刊”《學習與批判》第四期上發表署名康立、延風的《〈彙報工作〉出籠的前前後後》，“半點名”式地稱胡喬木為“鄧小平的參謀班子中的那個‘理論家’”。
1976年4月7日，中共中央政治局根據毛澤東的提議，通過了《關於撤銷鄧小平黨內外一切職務的決定》。於是，對於“三棵大毒草”的批判火力，不斷加強了。
1976年8月23日，《人民日報》發表了社論《抓住要害深入批鄧》，掀起了批判“三棵大毒草”的新高潮。社論指出，這是“三株反黨、反馬克思主義的大毒草”。社論作了如下“分析”：
《論總綱》是“兜售”‘三項指示為綱’的修正主義綱領“複辟資本主義的宣言書”：
《彙報提綱》是“反對無產階級在整個上層建築對資產階級實行全麵專政”的“一個修正主義標本”；
《工業二十條》則是“洋奴買辦的經濟思想和一整套修正主義辦企業路線的寫照，名為加快工業發展，實為加快資本主義複辟”。
經江青提議，人民出版社在1976年8月出版了由北京大學、清華大學大批判組編輯的《評〈論全黨全國各項工作的總綱〉》《評〈關於加快工業發展的若幹問題〉》《評〈關於科技的幾個問題〉》三本小冊子，印數達幾千萬冊。大量印行這些小冊子，據雲是為了“發動群眾”，進行批判。
於是，各報各刊，大報小報，討伐“三棵大毒草”。僅《人民日報》，從1976年8月13日至10月6日，發表的批判“三棵大毒草”的文章、通訊，便達110餘篇之多！
胡喬木又被迫寫檢查，以至寫揭發材料之類了。他的屋外，從天安門廣場上不時傳來“批鄧、反擊右傾翻案風”的口號聲。
不過，也傳來令胡喬木為之欣慰的消息：那三本小冊子裏，附了“三棵大毒草”的原文，以“供批判用”。由於小冊子的大量印行，才使普通的老百姓得以見到“三棵大毒草”。他們說：原來，“大毒草”是這麼回事！“大毒草”倒是說出了我們的心裏話，批它們幹什麼？
1976年9月9日，毛澤東去世的消息傳來，使胡喬木陷入深深的悲傷之中。毛澤東畢竟是他最為崇敬的人，多年的秘書生涯使他對毛澤東充滿深厚的感情。然而，在長長的毛澤東治喪委員會名單裏，依照姓氏筆畫，姓胡的隻有“胡煒、胡良才、胡金娣”，卻沒有胡喬木！
終於，1976年10月6日那“十月革命”，扭正了中國的曆史車輪，胡喬木破涕為笑了……