【发布时间】：2010-12-10 16:23:00
【问题描述】：
潜在语义索引 (LSI) 是一种统计分类算法吗？为什么或者为什么不？
基本上，我想弄清楚为什么the Wikipedia page for Statistical Classification 没有提到 LSI。我刚刚开始研究这些东西，我试图了解所有不同的分类方法是如何相互关联的。
【问题讨论】：
标签： algorithm semantic-web information-retrieval classification
【发布时间】：2010-12-10 16:23:00
【问题描述】：
不，它们并不完全相同。统计分类旨在尽可能清晰地将项目划分为类别——例如，明确决定项目 X 是否更像 A 组或 B 组中的项目。
LSI 旨在显示项目相似或不同的程度，主要是查找显示与指定项目相似程度的项目。虽然这相似，但并不完全相同。
【讨论】：
LSI/LSA 最终是一种降维的技术，通常与最近邻算法相结合，使其成为分类系统。因此，它本身只是一种使用 SVD “索引”低维数据的方法。
【讨论】：
你读过LSI on Wikipedia 吗？它说它使用矩阵分解 (SVD)，而矩阵分解有时又用于分类。
【讨论】：
机器学习的主要区别在于“监督”和“无监督”建模。
“统计分类”一词通常指的是监督模型，但并非总是如此。
使用监督方法，训练集包含一个“真实”标签，您可以构建一个模型进行预测。当您评估模型时，目标是预测对真实标签（或概率分布）的最佳猜测，而您在评估时不会有这些猜测。通常有一个性能指标，很清楚正确与错误的答案是什么。
无监督分类方法试图将大量可能以复杂方式变化的数据点聚集到较少数量的“相似”类别中。每个类别中的数据应该以某种“有趣”或“深刻”的方式相似。由于没有“基本事实”，您无法评估“对或错”，但“更多”与“更少”有趣或有用。
类似的评估时间，您可以将新示例放入可能的集群之一（清晰分类），或者给出某种加权来量化集群“原型”的相似或不同程度。
因此，在某些方面，有监督和无监督模型可以产生“预测”，即类/集群标签的预测，但它们本质上是不同的。
通常，无监督模型的目标是为后续的监督模型提供更智能、更紧凑的输入。
【讨论】：