在无监督训练期间是否也使用梯度下降？答案

【问题标题】：Is Gradient Descent used during unsupervised training also?在无监督训练期间是否也使用梯度下降？
【发布时间】：2020-06-06 01:56:17
【问题描述】：

在任何无监督训练（如聚类、协同过滤等）的训练中是否曾经使用过梯度下降算法？

【问题讨论】：

【解决方案1】：

梯度下降可用于一大堆无监督学习任务。事实上，使用梯度下降算法的神经网络广泛用于无监督学习任务，例如向量空间 (word2vec) 中的文本或自然语言表示。

您还可以考虑降维技术，例如自动编码器，它也使用梯度下降。

我不知道 GD 直接用于聚类，但 this link 讨论了一种利用带有 Kmeans 的自动编码器的方法，该方法使用 GD。

也请阅读this link，其中讨论了一个类似的问题。

【讨论】：

【解决方案2】：

在无监督算法中，您不需要这样做。例如，在 k-Means 中，您试图最小化均方误差 (MSE)，您可以在给定分配的每个步骤中直接最小化误差；不需要渐变。

【讨论】：