【问题标题】:Why filters do not learn same features [duplicate]为什么过滤器不学习相同的功能[重复]
【发布时间】:2019-02-06 05:34:28
【问题描述】:

卷积操作的结果是每个内核生成多个数据子集。例如,如果将 5 个内核应用于尺寸为 WxDx1(1 个通道)的图像,则将 5 个卷积应用于生成 5 维图像表示的数据。 WxDx1 变为 W'xD'x5,其中 W' 和 D' 的尺寸小于 W * D

每个内核被初始化为不同值的事实是否会阻止每个内核学习相同的参数?如果不是,是什么阻止了每个内核学习相同的参数?

如果图像是 RGB 而不是灰度图像,那么尺寸 WxDx3 而不是 WxDx1 是否会影响内核学习模式的方式?

【问题讨论】:

  • 内核是卷积中的可学习参数,所以是的,它们确实可以学习。
  • 哦,是的,我的错!造成混乱,对不起,重量确实是内核参数。对不起!

标签: machine-learning deep-learning conv-neural-network pytorch


【解决方案1】:

正如您已经提到的,不同内核学习的唯一事实是由于一开始权重的随机初始化。

here 提供了很好的解释,也适用于 CNN 中的卷积核。
我认为这足够独特,不会将其突出显示为重复,但本质上它的工作原理相同。

【讨论】:

    猜你喜欢
    • 2016-10-18
    • 1970-01-01
    • 2014-08-08
    • 2017-01-13
    • 2021-02-23
    • 2021-10-15
    • 2018-07-18
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多