【问题标题】:Nvidia DIGITS - Learning Rate AmbiguityNvidia DIGITS - 学习率歧义
【发布时间】:2018-08-28 22:03:34
【问题描述】:

训练期间 Nvidia Digits UI 中的基本学习率与 caffe .prototxt 文件中定义的每一层的学习率参数(lr_pm)之间有什么区别。最后使用哪种学习率?

【问题讨论】:

  • 是两者的产物
  • 您的意思是lr_multilrn_param 或两者兼而有之?
  • lrn_param 与学习率无关:它存储"LRN" 层的参数。

标签: deep-learning caffe nvidia-digits


【解决方案1】:

特定层的学习率是全局学习率乘以该特定层的lr_mult

【讨论】:

    猜你喜欢
    • 2020-10-22
    • 2018-03-21
    • 1970-01-01
    • 1970-01-01
    • 2017-05-12
    • 2020-11-20
    • 1970-01-01
    • 1970-01-01
    • 2022-06-14
    相关资源
    最近更新 更多