【问题标题】:Using Contrastive Divergence for Conditional Restricted Boltzmann Machines对条件受限玻尔兹曼机使用对比散度
【发布时间】:2012-12-13 03:43:54
【问题描述】:

我想使用受限玻尔兹曼机进行模式识别。 我注意到它们实际上用于查找模式中的分布而不是模式识别。我查看了以下论文:http://www.cs.toronto.edu/~hinton/absps/uai_crbms.pdf,它似乎使用了 RBM 的扩展,称为 ConditionalRBM。我想实现这一点。我已经使用 Contrastive Divergence 来实现 RBM,为了简单起见,我想坚持使用 CRBM。这篇论文的重点是用更准确的算法代替对比发散。

根据我在论文中看到的,我现在需要创建三个权重矩阵(因为现在我还必须包含分类向量)(参见论文中的图 1),我不知道如何更新它们中的每一个(即如何创建会影响矩阵变化的向量。)

有人可以为我澄清一下,或者建议一种使用我已经实现的简单 RBM 进行分类的算法吗?

谢谢。

【问题讨论】:

    标签: machine-learning neural-network


    【解决方案1】:

    我发现以下文件澄清了这个问题:http://uai.sis.pitt.edu/papers/11/p463-louradour.pdf。这里的海报也很有帮助,特别是对于实现:http://www.dmi.usherb.ca/~larocheh/publications/drbm-mitacs-poster.pdf。与其使用 3 个权重矩阵,不如使用 2 个,一个用于分类向量,一个用于实际模式。

    激活概率的公式有所不同,但思路是一样的。

    【讨论】:

      猜你喜欢
      • 2017-01-26
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2013-12-31
      • 1970-01-01
      • 2014-02-04
      • 2014-06-23
      • 2015-12-21
      相关资源
      最近更新 更多