【发布时间】：2018-01-02 19:11:23
【问题描述】：
我的理解是卷积神经网络中的过滤器将提取原始数据（或之前的层）中的特征，因此通过反向传播的监督学习来设计它们是完全有意义的。但是我看过一些论文，其中过滤器是通过输入数据样本的无监督聚类找到的。这对我来说看起来很奇怪，如何将聚类中心视为特征提取的良好过滤器。有人对此有很好的解释吗？
【问题讨论】：
标签： deep-learning cluster-analysis
【发布时间】：2018-01-02 19:11:23
【问题描述】：
某些流行的聚类算法（例如 k-means）是矢量量化方法。
他们尝试对数据进行良好的最小二乘量化，这样每个数据点都可以由具有最小二乘差的相似向量表示。
所以从最小二乘近似的角度来看，聚类中心是很好的近似值（我们无法找到最佳中心，但我们很有可能找到相当好的中心)。最小二乘法是否合适在很大程度上取决于数据，例如所有属性都应该属于同一类型。对于典型的图像处理任务，每个像素都以相同的方式表示，这将是以后监督优化的一个很好的起点。但我相信软分解通常会更好，不要假设每个补丁都完全是一种。
【讨论】：
-
感谢您的关注和回复。但我的问题不是关于集群中心的代表性。它们可以是数据的代表，或者换句话说，它们可以是我们想要的特征。如果将它们用作特征，那会很好，但它们已被用作过滤器权重来提取特征。这是一种完全不同的方法，我不明白如何将数据与其聚类中心相乘可以生成一些其他有用的特征。
-
他们被选为代表。所以他们应该能够对输入的大部分信息进行编码。这就是为什么它们比随机向量更适合作为过滤器。