【问题标题】:Caffe: Initializing two channels of siamese networks with the same pretrained weights , but without sharing weights during trainingCaffe:初始化两个具有相同预训练权重的孪生网络通道,但在训练期间不共享权重
【发布时间】:2017-01-06 15:49:43
【问题描述】:

我试图实现“Seeing the Forest from the Trees: A Holistic Approach to Near-infrared Heterogeneous Face Recognition, CVPRW 2016”中描述的连体网络。该方法涉及使用单通道模型的相同预训练权重初始化孪生网络的两个通道。当权重共享时,这在 caffe 中非常简单。但我希望以不共享权重的方式实现它(必须通过使用上述论文中提到的对比损失在没有相同权重的情况下一起学习,但是两个通道上的初始化必须相同)。我找不到在 caffe 中实现它的方法。你们中的任何人对在 caffe 中执行此操作的简洁方法或技巧有什么建议吗? 谢谢。

【问题讨论】:

  • 如果你想让他们单独学习,为什么不能单独训练他们呢?为什么要使用连体网络?
  • 单独说,我的意思是他们不应该分享权重。但是,我想对两个通道的输出使用对比损失,然后反向传播到各自的通道,从而不共享权重。但初始化(这是预训练的单通道模型)在两个通道上必须相同。

标签: neural-network deep-learning caffe conv-neural-network pycaffe


【解决方案1】:

您可以使用 caffe 在 python 中加载源模型和连体目标模型:

netSrc = caffe.Net('deploySrc.prototxt',
                'src.caffemodel',
                caffe.TEST)
netDst = caffe.Net('deployDst.prototxt',
                'dst.caffemodel',
                caffe.TEST)

然后您可以分配从源到目标的每层权重。假设您想将层 conv 从源复制到连体网络中的 convA 和 convB 副本:

netDst.params['convA'] = netSrc.params['conv']
netDst.params['convB'] = netSrc.params['conv']

然后将结果保存到新的 caffemodel :

netDst.save('dstInitialized.caffemodel')

【讨论】:

  • netDst.params['convA'][0] = netSrc.params['conv'][0] 为我工作,而不仅仅是netDst.params['convB'] = netSrc.params['conv']
  • @YashasAnnadani len(netDst.params['convA']) 是什么? “netDst.params['convB'] = netSrc.params['conv']”有什么错误?
  • @taarraas 赞赏
猜你喜欢
  • 1970-01-01
  • 2018-12-08
  • 2021-06-08
  • 2016-04-30
  • 2018-01-06
  • 2020-01-12
  • 2021-03-28
  • 1970-01-01
  • 2020-10-27
相关资源
最近更新 更多