【问题标题】:How does vowpal wabbit works with gradient descend algorithm?vowpal wabbit 如何与梯度下降算法一起工作?
【发布时间】:2014-10-26 07:50:12
【问题描述】:

我一直在尝试理解 vowpal wabbit 算法。 有没有人可以帮助我了解大众以及如何实施它

【问题讨论】:

    标签: vowpalwabbit


    【解决方案1】:

    Vowpal Wabbit 专注于在线学习(尽管它也可以批量处理 L-BFGS),它的主要算法是 Stochastic gradient descent 并带有几个(可选,但包含在默认值中)改进(自适应、规范化更新、巧妙的重要性加权,...)。 该算法在tutorial 的幻灯片 5 和 11 中进行了描述。

    没有必要实现它,它已经实现了:-) 而且它超级快速且内存高效。因此,代码中包含很多优化技巧,不太适合初学者查看。

    【讨论】:

    • 是否还有其他易于理解的实现,可以使用类似于 VW 的 SGD 进行在线学习?
    猜你喜欢
    • 2015-07-12
    • 2016-06-13
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-12-04
    • 1970-01-01
    • 2014-01-11
    相关资源
    最近更新 更多