神经网络的有趣特性
根据论文Intriguing properties of neural networks，可知，深度神经网络有两个特性，如下：
- 神经元的语义与所处的层数无关。同时，大部分语义信息由激活空间所包含，而不是单个神经元，例如：词的语义由一组向量捕获。
- 若一个深度神经网络在对象识别任务上表现得很好，发现其对一个被不易察觉扰动产生影响的图片反而识别错误。这种扰动可通过对最大化预测误差问题进行优化而寻找到，被称为对抗样本。同时，这些对抗样本持续影响在不同的数据集上训练的不同神经网络。这表明通过反向传播学习的神经网络拥有非线性特性和内在盲点。
版权： 本篇博文采用《CC BY-NC-ND 4.0》，转载必须注明作者和本文链接