神经网络的有趣特性
根据论文Intriguing properties of neural networks，可知，深度神经网络有两个特性，如下：
- 神经元的语义与所处的层数无关。同时，大部分语义信息由激活空间所包含，而不是单个神经元，例如：词的语义由一组向量捕获。
- 若一个深度神经网络在对象识别任务上表现得很好，发现其对一个被不易察觉扰动产生影响的图片反而识别错误。这种扰动可通过对最大化预测误差问题进行优化而寻找到，被称为对抗样本。同时，这些对抗样本持续影响在不同的数据集上训练的不同神经网络。这表明通过反向传播学习的神经网络拥有非线性特性和内在盲点。
引用方法
请参考：
li,wanye. "神经网络的有趣特性". wyli'Blog (May 2024). https://www.robotech.ink/index.php/archives/499.html
或BibTex方式引用：
@online{eaiStar-499,
title={神经网络的有趣特性},
author={li,wanye},
year={2024},
month={May},
url="https://www.robotech.ink/index.php/archives/499.html"
}