这一切更加使极端殖民主义分子和“黑脚”们恐慌，也激化了矛盾。从1960年冬在他们中间出现了从事恐怖活动的“秘密军队组织”，主要组织者有“黑脚”让·雅克·絮西尼。他们和潜往西班牙的前法殖民军总司令萨朗等勾结在一起。这个组织在阿尔及尔和巴黎各地制造一系列爆炸事件和暗杀活动，绑架支持“自决”政策的议员。从1961年3月至4月，就制造爆炸事故150多起。到1961年底，这个组织在阿尔及利亚设置武器库60个，秘密据点119处，妄图以恐怖手段来阻止阿尔及利亚“自治”政策的实施。
4将军政变
1961年1月，戴高乐政府就“自决”政策进行一次公民投票。结果是：在法国本土投赞成票者占76%，在阿尔及利亚投赞成票者也达70%。这件事加速了具有极端殖民主义思想、坚持强硬路线立场的将军们的反叛。
1961年4月20日，经过一番阴谋策划，原已调离非洲的前殖民军总司令夏尔和陆军参谋长泽勒秘密潜回阿尔及尔，会合了已在当地的空军参谋长儒奥。随后，另一名已逃在西班牙的前殖民军总司令萨朗也潜回会合。这四个已经离任或“已退役”的将军组成了领导叛乱的核心，于4月22日晨发动军事政变，逮捕了驻阿尔及利亚的法政府总代表让·莫兰、总司令冈比埃将军、警察局长勒内·雅南以及尚在阿尔及尔的政府部长罗贝尔·比隆等一批军政要员，夺取了法国在阿尔及利亚的殖民政权。随即发布公告，声称：“军事法庭将逮捕和审判直接参与和策划放弃阿尔及利亚及撒哈拉的任何人。”这是对戴高乐权威的公开的直接的挑战。