社會民主黨從一開始就對統一戰線持反對態度。1928年共產國際召開六大，宣布要加強反對社會民主黨的鬥爭。社會主義工人國際對此作出決議，明確禁止其支部參加與共產黨人的統一戰線行動。德國社會民主黨是社會主義工人國際的主耍領袖黨。社會主義工人國際的決議對它有一定的約朿力。在共產國際和德國共產黨對社會民主黨釆取敵視態度的同時，社會民主黨利用政權的力量對德國共產黨的活動進行限製乃至鎮壓。1929年5月1日流血事件就是明顯的一例。這次事件激起了德國共產黨黨員和選民的極大憤慨。1929年6月德國共產黨十二大就是在這種背景下召開的。在這次大會上，德國共產黨製定了新的戰略方針，即保衛蘇聯、打擊社會民主黨、爭取工人階級大多數、為推翻資產階級共和國、建立無產階級專政的蘇維埃德國而鬥爭。米勒政府執政期間通過了所謂“保護共和國法”。德國共產黨議會黨團議員明策爾貝柯說，根據這個法的第一條，就將有7，000名工人被判處6，000年的徒刑。1929—1930年，有2，000名德國共產黨黨員和其他反對政府政策的工人被社會民主黨的老板所解雇，1，000名屬於社會民主黨和國旗隊的工人頂替了他們的職位。
對德國共產黨提出的“打倒社會法西斯”、“人民革命”的口號以及它的一些行動，社會民主黨采取“以牙還牙”的態度。兩黨交替著互相攻擊，隔閡越來越深，以至於當德國共產黨決定改變其策略，試圖與社會民主黨共同采取行動時，社會民主黨也報以不信任的態度而予以拒絕。1931年8月9日，德國共產黨參加了右翼政黨組織的推翻普魯士社會民主黨政府的公民投票。9月，德國共產黨領導人諾伊曼建議社會民主黨領導人共同組織一歡為9月14日的選舉作準備的群眾集會。社會民主黨斷然拒絕。事後社會民主黨領導人弗朗茨·孔斯特在一篇演說中說，8月9日事件表明共產國際的德國支部參加了德國反革命的行動，它打開了工人們的眼界。德國共產黨的統一戰線的喧囂與它的全部策略一樣都是毫無誠意的。同年11月18日，社會民主黨機關抵《前進報》發表社論《誰是圭要敵人？》社論說：“共產黨人把概念弄混了。我們社會民主黨人被貼上了‘社會法西斯’的標簽，這隻能是模糊了法西斯主義的本質，妨礙了反法西斯主義的鬥爭……《紅旗》（德國共產黨的機關報）鼓吹的統一戰線是隻有一個黨的統一戰線（共產黨），而這種統一戰線是統一戰線的對立物。”
1932年4月總統選舉之後，鑒於法西斯主義奪取政權的危險，德國共產黨積極開展建立反法西斯統一戰線的行動。4月25日，德國共產黨以中央委員會和革命工會反對派議會黨團的名義向德國全體工人呼籲：“我們準備同願意聯合工人階級、真正領導反對裁減工資和救濟金鬥爭的一切組織共同戰鬥。”5月24日，台爾曼在中央委員會會議上指出：“目前最重耍的是黨要來一個急劇轉變，轉向實際上的統一戰線。”對於德國共產黨的主動提議，社會民主黨堅持必須在履行兩個前提的基礎上才能談得上統一行動。一是德國共產黨要立即停止對社會民主黨的攻擊。二是這種統一戰線的談判必須在兩黨中央一級領導人之間進行。1932年6月17日，德國共產黨柏林支部發出致社會民主黨、全德工會和國旗隊柏林支部的公開信，建議共同舉行反法西斯的示威遊行。第二天，鐵的陣線在回信中說：“我們認為，作為這種聯合的前提，德共應該停止對我們的組織和領導人的攻擊”。6月29日，社會民主黨執委會發布通知：“從德共政治局和德共領袖的表白和刊物中可以看出來，所謂的反法西斯行動實際上不是別的，就是反社會民主黨行動。他們表示，反法西斯行動不與社會民主黨領導人搞統一戰線。每個人都知道，富有成效的談判隻能在中央一級黨的領導人之間才可能進行。地方一級的談判不可能產生聯合的明確效果，而隻會導致分裂和混乩，因此應該嚴格避免這種談判。”這份通知實際上是一道禁止社會民主黨基層組織與德共談判的命令。即使在共和國生死存亡的最後關頭，社會民主黨也不放棄它關於統一戰線的條件。寧願對法西斯的進攻保持沉默，也不願與共產黨進行有條件、有限度的合作。1932年7月20日巴本政變發生時，德國共產黨向社會民主黨、全德工會、全德自由職工聯合會呼籲，要求聯合舉行反對政變的總罷工。社會民主黨一方麵壓製它的黨員和選民要求抵抗政變的呼聲，另一方麵對德國共產黨的呼籲采取不理睬的態度，結果等於在沉默中交出了普魯土政府的權力。1933年1月30日希特勒擔任總理後，德國實際上已落入了法西斯的魔爪中。即使在這個時候，社會民主黨還是拒絕了德國共產黨聯合行動的多次呼籲。
不過，社會民主黨的個別領導人意識到了工人階級聯合起來對付法西斯奪權的緊迫性。他們在一些場合曾提出與德國共產黨對話的要求。如1931年11月15日，社會民主黨領導人布賴特沙伊德在達姆施塔特發表講話，建議消除兩黨在進行共同鬥爭道路上的障礙物。1932年11月6日，社會民主黨執委會成員施坦普費爾提議，鑒於11月6日的選舉結果（納粹選票曾一度下降），社會民主黨和德國共產黨應該考慮建立統一戰線的可能性。可惜，這些領導人的意見在社會民主黨中央不占主導地位。11月10日，社會民主黨執委會宣布施坦普費爾的講話隻代表他個人的意見。
盡管社會民主黨的上層對反法西斯統一戰線不抱積極態度，社會民主黨基層組織的一些工人還是不顧黨的執委會禁止，主動與德國共產黨相應組織的工人聯係，參加兩黨黨員共同主持的反法西斯集會、遊行和示威活動。甚至有的黨員公開對社會民主黨中央阻止統一戰線的政策提出批評。1932年7月10日，一位社會民主黨代表在柏林反法西斯聯合大會上發表講話。他說：“我們要盡一切力量建立所有工人階級參加的戰鬥的統一戰線，而不論其原來屬於哪個組織。我們最強烈地抗議黨的執委會發布的關於禁止在工廠、居民區與革命工人一起舉行會談和采取行動的禁令。我們堅決拒絕我們報刊上散布的一切誹謗。”社會民主黨內的左派也堅決主張與德國共產黨聯合，以致與黨的多數派發生分歧，退出了社會民主黨。這表明在社會民主黨內存在著要求現實地看待國內形勢，暫時摒棄前嫌，與德共攜手合作，共同擊退法西斯進攻的趨勢。社會民主黨內的紀律使這種趨勢無法形成主流。一些與德共頻繁接觸的黨員和工會會員被黨組織和工會開除。僅在1928—1929年，自由工會的礦山工會就有1，200名工人被開除。冶金工會有5，000名工人被開除。這樣，一直到希特勒上台，在社會民主黨和德共之間始終橫亙著一道深深的鴻溝。