[李宏毅机器学习笔记] 1.线性回归

• 回归：输出一个标量。

例子：用回归计算pokemon的CP值。

    步骤1：建立模型

       

        

        w：权值

        x：特征

    步骤2：评价函数好坏

        获取：训练数据

        定义损失函数：

        

    步骤3：找到最优函数

        解最优问题：

        

      方法：梯度下降GD

        

        一个参数时：获取初始值 → 计算L对W的偏微分（梯度的反方向下降最快），乘以learning rate，取负 → 下一个位置 →…→ 局部最优（可能不是全局最优）

        两个参数时：分别更新

        

• 过拟合问题：选择合适的model（并不是越复杂越好）。
• 提高精确度：收集更多数据。