【发布时间】：2017-06-01 21:32:17
【问题描述】：
是否有可能从隐藏层中确定图像的特征会导致“是”？ 就像假设我用 1000 张图像训练 CNN，然后我想从中间隐藏层中知道哪些特征实际上导致图像最终被标记为“是”。 可能吗？ 以及使用 CNN 进行二元分类需要多少训练样例才能收敛？
【问题讨论】：
标签： deep-learning conv-neural-network
【发布时间】：2017-06-01 21:32:17
【问题描述】：
是否可以从隐藏层中确定图像的特征会导致“是”？
是的，是的。来看看
Zeiler, M.D. 和 Fergus, R.，2014 年 9 月。 Visualizing and understanding convolutional networks。在欧洲计算机视觉会议上（第 818-833 页）。施普林格国际出版社。
总结
主要有三个思路：
- 训练数据 argmax 方法：通过网络抽取数据。记录您感兴趣的引起最高激活的神经元。
- 遮挡敏感度分析：覆盖图像的一部分。通过网络推送被遮挡的图像。分数如何变化？如果大致相同，那么重要的特征很可能不在图像的那部分。
- 梯度方法：训练重建激活的“重建网络”。然后将您感兴趣的神经元设置为最大激活，其余设置为不激活。重构可能导致此行为的原因。
【讨论】：