【发布时间】：2014-01-26 03:49:10
【问题描述】：
在 LSA 中使用 SVD 来获取潜在语义信息。我对 SVD 矩阵的解释感到困惑。
我们首先建立一个文档术语矩阵。然后用SVD分解成3个矩阵。
例如：
doc-term 矩阵 M1 是 M x N，其中：
M = the number of documents
N = the number of terms
而M1被分解为：
M1 = M2 * M3 * M4, where:
M2: M x k
M3: k x k
M4: k x N
我看到如下解释：
M2的第k个列代表相似语义的类别。 M4的第k个row代表topics。
我的问题是：
为什么 k 会像上面那样解释？我们怎么知道它是相似的语义和主题？
为什么相似的语义等于主题？
为什么 k 在 M2 和 M4 之间的解释不同
如何解读M3？
我真的很困惑。似乎解释是完全武断的。这就是潜在的意思吗？
【问题讨论】：
-
如果
SVD看起来过于随意，请尝试改用PCA。它们实际上是等效的，但PCA更容易说服自己，并且可以帮助解释SVD解释背后的许多原因。对SVD的完整解释应该在数学交流中，或者构成线性代数课程的大部分内容。 -
我认为问题在于为什么 k 在不同的矩阵中显然具有相似但名称不同的解释。真的吗？
-
@HeatherStark 是的，这也应该是我的担忧之一。感谢您指出。我更新了问题。
标签： machine-learning nlp data-mining text-mining lda