《机器学习基石》笔记一——机器学习简介

1.1 什么是机器学习？

人类学习是从不断的观察获得经验的技能。
机器学习是从数据出发，通过数学运算等方式获得经验增强的技能。

1.2 什么时候可以用机器学习？

1）存在一些内部的规则
2）编程无法把这个规则定义出来
3）有充足的数据

1.3 基本符号

输入样本空间：$x ∈ X$x∈X
输出样本空间：$y ∈ Y$y∈Y
目标函数(要学习出的模式)：
$f: X \longrightarrow Y$f:X⟶Y
训练样本：
$D = \{(x_1,y_1), (x_2,y_2), (x_3,y_3), ⋯ ,(x_N,y_N)\}$D={(x1​,y1​),(x2​,y2​),(x3​,y3​),⋯,(xN​,yN​)}
假说hypothesis(所有的可能的假设空间）：
$g: X \longrightarrow Y$g:X⟶Y
目的就是根据未知的目标函数$f$f生成了训练样本$D$D，通过机器学找到对应的假设空间$g$g通过优化算法得到最优的$g$g使得$g\approx f$g≈f，过程如下：