Logistic 回归
Logistic回归作为一个学习算法,被用于输出y非0即1的监督学习问题中。Logistic回归的主要目标是使预测结果和训练数据的误差最小。
Cat vs No-cat
输入一张图像,由特征向量x来表示,回归算法将预估图像中有一只猫的可能性。
在Logstic回归中的参数包括:
- 输入特征向量:
x∈Rnx,nx为特征的个数 - 训练标签:
y∈0,1 - 权重:
w∈Rnx,nx为特征的个数 - 门限值:
b∈R - 输出:
y^=σ(wTx+b) - Sigmoid 函数:
s=σ(wTx+b)=σ(z)=11+e−z
我们能从图中观察得到:
- 当
z 是一个大的正数,有σ(z)=1 - 当
z 特别小或是一个“大的”负数时,σ(z)=1 - 当
z=0 时,σ(z)=0.5