了解什么是Machine learning
-机器学习是一门不用对机器进行明确指示,但可以使机器自主完成某项任务的关于算法和统计的学科。
学习中心极限定理,学习正态分布,学习最大似然估计
-中心极限定理:假设X1,X2,…Xn是独立且满足相同分布的随机样本,当样本数量大到一定程度时, X的期望平均数满足正态分布
-正态分布: 若随机变量X1服从一个位置参数为μ、尺度参数为 σ 的概率分布,且其概率密度函数为
最大似然估计
loss function:
学习损失函数与凸函数之间的关系:
凸函数是有且只有全局最优解的,而非凸函数可能有多个局部最优解。线性回归损失函数是凸函数
了解全局最优和局部最优
-全局最优为多个局部最优中的最优
学习导数,泰勒展开
推导梯度下降公式
写出梯度下降的代码学习L2-Norm,L1-Norm,L0-Norm
推导正则化公式
说明为什么用L1-Norm代替L0-Norm
学习为什么只对w/Θ做限制,不对b做限制
b只对函数位置有影响,不对函数本身对输入的敏感度有影响