我有一张有很多层的大网。我在网络中添加了一个新的全连接层，并想做一个微调。但是，除了新的层之外，在每一层都设置lr_mult: 0 非常困难，因为网络中有很多层。
如果有什么好的方法可以解决这些问题？
谢谢。
【问题讨论】：
sed
标签： neural-network deep-learning caffe
不如在新的全连接层之前为所有层的所有参数设置lr_mult: 0，而是在新层之后停止反向传播？
你可以通过设置propagate_down: false来做到这一点。
例如：
layer {
name: "new_layer"
type: "InnerProduct"
...
inner_product_param {
...
}
propagate_down: false # do not continue backprop after this layer
}
或者，您可以使用命令行实用程序sed 直接更改 prototxt 文件中的所有条目：
~$ sed -i -E 's/lr_mult *: *[0-9]+/lr_mult: 0/g' train_val.prototxt
这一行会将您的train_val.prototxt 中的所有lr_mult 更改为零。您只需手动为新层设置lr_mult。
【讨论】：
sed 可能更适合我。顺便说一句，我还有一个问题，如果我设计的层有两个底部，我希望其中一个可以反向传播，我应该如何设计层和设置 net.prototxt？谢谢。