FastICA 和盲信号分离数学题答案

【问题标题】：FastICA and Blind Signal Separation Mathematics QuestionFastICA 和盲信号分离数学题
【发布时间】：2011-03-21 20:08:36
【问题描述】：

我正在尝试根据此处的论文来实现我自己的 FastICA 算法：http://www.cs.helsinki.fi/u/ahyvarin/papers/NN00new.pdf。

不过，我需要一些数学方面的帮助。

在第 14 页的中间有一个看起来有点像的方程式

w+ = E{ xg(w^Tx) } - E{ g[素数]( w^T x)} w

E 是什么意思？回到我的概率时代，我记得它是随机变量的“预期值”，但对我来说向量的预期值是什么没有意义。

谢谢，

【问题讨论】：

【解决方案1】：

ICA 是有趣的东西。我在研究生研究中使用了一些它，但我并没有深入挖掘引擎盖下的内容。我刚刚下载了 MatLab 的 FastICA 实现并使用了它。

无论如何，E{...} 表示期望值是正确的。矢量 x 的元素代表各个信号。严格来说，x 是一个时间序列，应该写成 x(t)，但 ICA 中的约定是将 x 视为随机变量。当然，在这种情况下，期望值的概念是有道理的。例如，E{x} 只是 x 的平均值（在 ICA 中取为零，因为信号已居中）。

您链接的论文的作者也有a book on ICA。它在亚马逊上贵得离谱，但如果你能在附近的大学图书馆等地方找到一本，那可能值得一看。已经好几年了，但我记得它是一个尽可能温和的介绍，考虑到数学。

【讨论】：

谢谢eaj。我希望在运行 3 个电机（3 个麦克风）的音频流上使用 FastICA。对于论文的第 2 行，在查看 E{xg(w^T w)} 分量时，我假设 x 是整个测量矩阵。我可以做 xg(w^T w) 并且我假设它的输出是一个向量。为了得到期望值（期望值= P（测量值）*值），我遍历数据，寻找与向量匹配的传感器输入，并计算它出现的次数以获得它的概率，然后将该概率乘以向量本身以获得期望。我在正确的轨道上吗？
@mj_ 你得到的有点超出我直接所做的，但是...... x 是观察值的向量（在你的例子中是 3 个元素）； s 是原始值的向量； A 是（未知常数）混合矩阵：x=As。矩阵 W 是 A 的逆矩阵，w 个向量是它的列。您估计期望值的方向可能是正确的——请参阅本文第 6.1 节的最后一段。但是，除非您的主要目标是编码（如果是，那么您将拥有更多的权力！），我建议您使用可用的软件：research.ics.tkk.fi/ica/fastica
我一直在阅读您提供链接的代码。我认为它可能有一个问题，我无法在我想要的平台上运行它，因为它使用了几个不存在的其他包。不过这很酷。