1939年9月初，在柏林出現了一個德國社會民主黨人與共產黨人組成的行動委員會。這個委員會在一分標題為《德國人民！這場戰爭是由希特勒挑起來的！》的呼籲書中號召德國人民組成反對希特勒戰爭和納粹專政的人民陣線，結束這場違反德意誌民如利益的戰爭。呼籲書說：“現在，德國隻能通過人民自己來挽救。”“從戰爭一開始，每一個富於責任感的德國人的思想和行動都應在這樣一個廣泛目標的鼓舞之下：立即盡快地結束這場罪惡的使我們的國家和民族遭受毀滅威脅的戰爭！”
1939年5月，柏林西門子工廠工人中的工會會員、共產黨員和社會民主黨黨員建立了一個統一陣線委員會。秋天，這個委員會在《致軍火工廠工人和全體柏林居民》的呼籲書中，號召他們推翻希特勒專政，起來為結束帝國主義戰爭而鬥爭。委員會與法西斯分子蠱惑人心的“生存空間”的口號針鋒相對，提出德意誌民族的真正任務是實現民族自決權。這些社會民主黨人和共產黨人還說明，為什麼必須要用一個民主國家製度代替希特勒專政、徹底鏟除法西斯主義和實現一個新的民主共和國。
隨著戰爭的擴大，國內反抗運動的發展，希特勒法西斯政府在國內的鎮壓活動日益加緊。1939年11月—12月，蓋世太保在20個大城市逮捕772名反法西斯工人，其中包括共產黨人、社會民主黨人。社會民主黨領導人奧·格羅提渥因涉嫌參與密謀推翻希特勒政權而多次入獄。1940年5月，蓋世太保在柏林、不倫瑞克、開姆尼茨、達姆施塔德、法蘭克福（美因河畔）、哈雷（薩利河）、卡爾斯魯厄、馬格德堡進行了大搜捕，逮捕了127名共產黨人與社會民主黨人。但是，這並未能撲滅國內的反希特勒戰爭的鬥爭。
1941年6月22日，希特勒德國向蘇聯不宣而戰，第二次世界大戰進入一個新的階段。德國國內的反抗運動也呈現出新的局麵。在反法西斯鬥爭烈火中經受考驗的廣大社會民主黨黨員幹部在這時更加成熟了，更多的人認識到，迫切需要消除工人階級的內部分裂。在德國許多企業內從事地下反抗鬥爭的社會民主黨人同共產黨人一起，組織工人的怠工、停工鬥爭，進行反法西斯宣傳鼓動工作，秘密散發傳單，張貼標語，傳播外國電台的新聞消息，以各種形式進行鬥爭。例如支伊倫羅達的社會民主黨女工施泰因·埃瑪經常收聽國外電台的廣播。她得到社會民主黨員、工人麥·菲舍爾和同情社會民主黨的工人弗·羅澤的支持並一起在工人中傳播新聞。許多社會民主黨反抗小組與共產黨人密切合作、聯合行動。還有許多社會民主黨員參加了共產黨人領導的反抗組織。在柏林、開姆尼茨、德累斯頓、法蘭克福（美因河畔）、漢堡、卡爾斯魯厄、科陸、萊比錫、馬格德堡和其它城市的共產黨反抗組織中都有大量的社會民主黨人參加。其中德累斯頓反抗組織的時間較長，規模較大。它是早在1934—1935年起即由阿·亨澤爾、弗·舒爾策、卡·施泰因建立起來的。在這個反抗組織內，共產黨人、社會民主黨人、德國社會主義工人黨黨員及無黨派反法西斯戰士捐棄前嫌、緊密合作，貫徹了統一戰線和人民陣線的政策。舒爾策一施泰因反抗組織成員多達100多人，各個行動小組的成員們經常收聽莫斯科電台的廣播，組織援助被捕的反法西斯戰士的家屬。在德累斯頓的許多企業（如伯梅和亨南公司、格爾林和羅克施特羅公司、發電廠、五金工業有限公司、奈馬塔格、門德廣播公司、薩克森工廠、賽德爾和瑙曼公司以及伊公·蔡司有限公司分公司）都建立了固定的據點並同科斯維希、德累斯頓、弗賴塔爾和森一布施巴德較小的反法西斯小組建立進一步的聯係。在反法西斯鬥爭的實踐中，許多基層的社會民主黨幹部和黨員群眾，接受了德國共產黨建立反法西斯人民統一陣線的口號。在德國國內，社會民主黨領導的反抗運動由於缺乏必要的政治、思想和組織上的前提條件，始終未能迅速發展起來。但是，這並不意味著社會民主黨人無所作為，相反，他們中的許多優秀分子把自己的熱血和生命獻給偉大的反法西斯鬥爭，為人類的進步、正義與和平作出了不可磨滅的貢獻。
1942年，世界戰爭的形勢發生了具有曆史意義的轉折。希特勒軍隊在斯大林格勒戰役、阿拉曼戰役連續遭到慘敗。英美軍隊在北非、在西西裏島登陸參戰。1943年意大利法西斯頭目墨索裏尼垮台。這一切都預示了希特勒法西斯行將滅亡的命運。德國軍界的許多高級軍官及德國壟斷資產階級的上層人士看到敗局已定，害怕德國人民和其它各國人民利用希特勒德國的全麵失敗，徹底消滅德國帝國主義與軍國主義，試圖組織推翻希特勒的宮廷政變，拋棄希特勒，借助西方大國的幫助挽救德國帝國主義的滅亡命運。以退休上將貝克、卡·戈台勒、烏·馮·哈塞爾和約·波皮茨為核心的密謀分子同壟斷資本的一些極有影響的勢力建立了密切聯係，其中有所謂羅伊斯集團、波施集團、漢莎航空公司、克虜伯股份公司的重要人物。此外還有容克地主的代表、軍界領導人、德蘇戰場和後備軍參謀部的一大群參謀軍官、政府的一些高級官員。密謀分子製定了政變計劃，起草了未來國家的憲法和各種法律製度草案，指定了未來政府的人事安排。他們準備在推翻希特勒以後，建立一個君主立憲製或其它維護特權的等級製國家以保持、發展壟斷資本的無限統治。大壟斷聯盟統治下的資本主義經濟製度應保留成為這個國家的社會經濟基礎。他們起草的憲法草案剝奪了人民群眾的各種民主權利，如選舉權、結社權、罷工權。他們規定新政府的對外政策是迅速與帝國主義西方大國締結和約，集中力量阻止紅軍的繼續向前推進，建立西方資本主義國家的反蘇戰線。
在密謀分子中也有一批進步力量。如德國社會民主黨領導人尤利烏斯·勒伯爾、威廉·洛伊施納、阿道夫·賴希維因等人。他們與組織政變的核心人物，以馮·施陶芬堡為首的一批青年愛國軍官密切合作。他們堅決反對密謀分子中多數右翼勢力的反動政策，主張推翻希特勒政府，立即結束一切戰場上的戰爭，同蘇聯進行接觸並建立友好睦鄰關係，同共產黨臨時領導以及“自由德國”全國委員會進行接觸和建立一切民主力量的聯盟。施陶芬堡深受社會民主黨人的影響，主張實行一種新的、充滿活力的社會民主主義，並且堅持要在擬議的新政府成員名單中包括社會民主黨人在內。洛伊施納被內定為未來政府的副總理，勒伯爾被內定為內政部長。
密謀者計劃於1944年7月20日用炸彈殺死希特勒，然後發動軍事政變。施陶芬堡把一枚炸彈攜入設在拉斯滕堡附近的元首大本營的會議室內，引爆後希特勒僅受了一點輕傷，在柏林發動的代號為“女神”的政變也很快地失敗了。此後，希特勒進行了瘋狂的報複。施陶芬堡和馮·黑夫滕中尉、奧爾布裏希特將軍、克維爾恩洵姆上校等人當天深夜即被槍決。據估計，由於直接參加7月20日事件被希特勒殺害者有180—200人，從1944年初至戰爭結束時（軍事法庭的判決不計在內）處死的總計有4，500人。
社會民主黨人勒伯爾和賴希維恩在1944年6月同共產黨領導人秘密會見時被秘密警察緝捕，受盡酷刑，於1945年1月被殺於獄中。
這個被曆史學家稱為1944年7月20日反抗運動的失敗，使德國上層的反希特勒法西斯鬥爭從此一蹶不振。德國社會民主黨領導寄希望於上層抵抗運動的方針又一次遭受嚴重挫折。