网络结构 各神经元分别属于不同的层 层内无连接 神经元是全连接
一些术语：L代表层数 、Mi代表i层神经元的个数、fi()代表i层的**函数、Wi代表第i-1层到i层的权重矩阵、bi代表了i层的偏置、zi代表i层净输入量、ai代表i层的输出
计算过程：
通用近似定理：
应用到机器学习
参数学习
应用到机器学习
梯度下降
如何计算梯度
前提知识
矩阵微积分
矩阵的链式法则
反向传播算法
计算图与自动微分 每一个原点代表了一个原子操作
自动微分
反向传播算法
静态计算图和动态计算图
深度学习
神经网络的优化问题
非凸优化问题
梯度消失问题