深度学习对抗样本的八个误解与事实

正文

请到「今天看啥」查看全文

1. 神话：对抗样本并不重要，因为它们不会出现在实践中。

事实：的确，对抗样本不太可能自然发生。然而，对抗样本至关重要，因为训练一个模型来抵制它们，可以提高其非对抗样本的准确性。对抗样本也可能在实践中发生，如果它们的确是对抗性的。例如垃圾邮件发送者试图骗过垃圾邮件检测系统。

训练一个网络来正确分类对抗样本，降低它在训练数据集上的错误率，即使测试数据集的样本没有被扰动。这种技术 提升了在MNIST数据集上的最高水平 。

2. 神话：深度学习比其他类型的机器学习更容易受到对抗样本的干扰。

事实：到目前为止，我们已经能够为我们测试过的每一个模型生成对抗样本，包括像最邻近这样的最传统的机器学习模型。深度学习是目前为止对对抗训练最有抵抗性的技术。

3. 神话：对抗样本是由极度非线性深度模型导致。

请到「今天看啥」查看全文