希特勒在建立独裁统治的过程中，把德国共产党作为首要的打击目标和牺牲品。德共为了生存和实现自己的理想，最早走上反抗斗争的道路。1933年3月3日，德共主席恩斯特·台尔曼和其他许多领导人遭逮捕，包括数百名党的工作人员在内的10多万党员被送进集中营或监狱。共产党很快转入地下从事非法斗争，其中央机关刊物《红旗》于1933年2月26日合法出版最后一期后，3月起成为地下出版物。在台尔曼被逮捕后，中央委员会任命威廉·皮克（Wilhelm Pieck，1876—1960）为代理主席，政治局和中央委员会书记处组成地下党的临时领导机构。该机构通过台尔曼的亲人罗莎·台尔曼（Rosa Thlmann，1890—1962）与他保持联系，向他传递党的重要决议，并传出台尔曼有关党的政策和政治局势的书面意见和笔记。为了适应地下活动，德共改组了组织系统，成立了一批灵活机动的秘密小组，发送秘密的无线电广播，在群众中散发从国外运来的报纸和小册子，在艰难的条件下坚持反法西斯斗争。据秘密警察报告，1935年共查明有5000处反法西斯刊物的传播站，1936年被秘密警察没收的所谓敌视国家的传单和文件达160万件，1937年达90万件以上。