1.1什么是神经网络
举例：预测房价
用一条直线拟合房价
把房屋的面积作为输入（成为x），通过一个节点（一个小圆圈），最终输出价格（成为y）。如下图所示，即为一个简单的神经网络。
进一步的，房屋的价格可能还与其他因素有关，如位置，卧室数量等。故多个特征输入时，可表示为：
这就是多个输入的神经网络，用一个更规范的形式表示为：
1.2神经网络在监督学习中的应用
监督学习
| 输入（Input(x)） | 输出（Output(y)） | 应用（Application） | 原理 |
|---|---|---|---|
| 房价因素（Home features） | 房价（Price） | Real Easter | 标准神经网络(Standard NN) |
| 在线广告，用户信息（ad） | 推荐在线广告（0/1） | 在线广告（Online Advertising） | |
| 图片（Image） | 目标（Object） | 图片识别（Photo tagging） | 卷积神经网络（Convolution NN） |
| 音频（Audio） | 转换文本（Text transcript） | 语音识别（Specch recognition） | 递归神经网络（Recurrent NN） |
| 英语（English） | 中文（Chinese） | 在线广告（Online Advertising） | |
| 图片（Image，Radar info） | 位置（Position of other cars） | 自动驾驶（Auto driving） | Custom and hybrid NN |
Standard NN
CNN
RNN
结构化数据与非结构化数据
1.3深度学习为什么会兴起
如图所示，大数据时代，深度学习算法性能远远强于其他算法。
三个因素：
- Data
- . Computation 比如：GPU
- Algorithm 比如：sigmoid function→ReLU function
算法必须快，形成一个正循环，快速验证：