反對派蟄伏了一個時期，這時又活躍起來，儘管到這時為止他們並沒有取得任何顯著的成績。因為雖然在斯大林格勒會戰期間，有人在保盧斯的幫助或默許下曾企圖組織一次起義，但是直到這時所發生的兩件最值得注意的反抗事件都是同反納粹的主要團體沒有關係的人搞的。一件是1939年11月9日共產黨在慕尼黑市啤酒廠置放炸彈的事件，另一件是1943年2月19日漢斯·朔爾和索菲·朔爾在同一城市內散發傳單的事件。還有，1943年3月13日法比安·馮·施拉布倫多夫想炸燬希特勒座機的嘗試，結果沒有成功，雖然僥倖並沒有被人發覺。此外，在1943年1月卡薩布蘭卡會議以後，盟國堅持要德國“無條件投降”，這一點在一定程度上也使反對派意氣沮喪（反對派的成員後來這樣說）。反對派又分成各個小派系，這種派系反映了成員們所屬的集團或階級的職業或社會觀點，或是反映了他們所贊助的主義或政黨。
在軍隊方面，有一個反納粹將領的小核心組織，由貝克（前參謀總長）、維茨勒本（他於1942年擔任西線總司令時退役）、赫普納（東線的一名將領，1942年由於違背希特勒的命令擅自撤退而遭到軍事法庭的審判）和奧斯特（諜報局中央情報處主任）所領導。自從1939年11月的那次密謀失敗以後，這些人一直在等待一個採取行動的機會。在戰爭期間參加進來的人還有：弗里德里希·奧爾布里希特將軍（國民軍團司令），馮·哈澤中將（1940年後任柏林駐軍司令），馮·特雷施科夫將軍（東線馮·克魯格的隨從參謀之一）和林德曼將軍（隸屬於陸軍最高統帥部的一名炮兵軍官）。透過奧斯特的關係，同他們密切地聯絡在一起的是所謂“卡納里斯集團”（海軍上將威廉·卡納里斯是諜報局的首長）。這個集團幾乎完全是由陸軍反諜報機構的軍官和文職官員組成的。它作出了極有價值的貢獻，為反對派的活動提供了“掩護”。雖然它提供了一些很有能力的組織者，如奧斯特、拉豪森將軍和漢森上校，但它的領袖卡納里斯的高尚品格和反對暴力的主張，卻使它成了希姆萊的一個易於襲擊的目標。希姆萊於1943年下半年突然襲擊了這個集團，先將奧斯特撤職，後來又將卡納里斯撤職，並且逮捕了他們的許多助手。在貝克集團和卡納里斯集團的外圍，還有一個將領們的小集團，代表人物先是馮·克魯格，最終是隆美爾，他們看到有必要去掉希特勒，但是要他們無條件地支援起義的計劃則又猶豫不決。
同反對派有牽連的文官中，有的是納粹政權早期的官員，還有幾個是仍在任職的官員。他們的領袖卡爾·格德勒博士從1930年到1936年間曾在布呂寧手下任全國物價管制委員會主任，後來又任萊比錫市長。沙赫特在1938年前是德國經濟部長，1939年前是德國銀行總裁，1943年1月以前則是不管部長。波皮茨仍然是普魯士的財政部長。吉澤維烏斯先在蓋世太保後在諜報局裡工作。黨衛隊將領內貝是刑事警察的頭子，他成了反對希特勒的秘密計劃中最出力的人物之一。沃爾夫·馮·黑爾多夫伯爵是柏林警察總監。這個集團中的其他重要成員——烏爾裡希·馮·哈塞爾、弗里德里希·維爾納·馮·德·舒倫堡伯爵、奧托·基普、漢斯·貝爾恩特·馮·黑夫滕、亞當·馮·特羅特·楚·佐爾茨和埃裡希·科爾特與特奧·科爾特弟兄等——過去都是在外交界服務的。
這個退職官員的集團大部分（絕對不是全部）是同實業家、大企業和舊貴族有密切關係的保守主義者。比這個集團組織得更為嚴密的是社會民主黨人以及某些社會民主黨人也參加的所謂“克萊騷集團”。社會民主黨人的領導人是：古斯塔夫·達倫多夫、尤利烏斯·勒伯爾（1944年他受審時，法賴斯勒把他說成“德國工人階級運動中的列寧”）、威廉·洛伊施納（前工會領袖和黑森的內政部長，同天主教工會領袖雅各布·凱澤有密切關係）、卡洛·米倫多夫（年輕的社會民主黨人之一）和特奧多爾·豪巴赫（德國國旗的設計人）。“克萊騷集團”的中心人物是赫爾莫特·馮·毛奇伯爵，他是俾斯麥手下那位陸軍元帥的侄孫，是諜報局國外科的國際法專家。該集團就是以他在西里西亞的莊園命名的。“克萊騷集團”的成員包括彼得·約克·馮·瓦滕堡（施陶芬貝格的表兄）、歐根·格斯登美爾（路德教會的領袖）、阿道夫·賴希斯魏因（社會民主黨人）、特羅特·楚·佐爾茨和一些自由職業者、文官以及納粹執政前各工會的代表。
儘管克萊騷集團一般是反對暴力的（因為他們對於促進精神新生比較感覺興趣），它卻作了不少工作去保