- 求平方根
method1 二分法
method2 牛顿迭代法(根据泰勒一阶展开推导)
xn+1=xn−f(xn)f′(xn)
其中f(xn)=x2−n
2.
3. 各种范数的比较
L0范数:非零元素个数
L1范数:绝对值,抗干扰能力更强。L1正则项不可微
L2范数:绝对值的平方,L2正则项可微
区别:
L1正则化偏向于使一些权重变为零,产生稀疏的特征矩阵,有利于直观上的特征选择
L2正则化偏向与使所有权重尽量小。
L1正则化系数越大,最优点越靠近零点
L2正则化系数越大,W权值衰减越大
相关文章:
-
2021-12-18
-
2021-12-20
-
2021-07-01
-
2022-03-14
-
2022-12-23
-
2022-12-23
-
2021-05-24
猜你喜欢
-
2021-12-14
-
2021-10-20
-
2021-07-05
-
2021-07-17
-
2021-10-15
-
2021-12-16
-
2022-01-22
相关资源
-
下载
2021-06-06
-
下载
2023-02-17
-
下载
2022-12-13