#写在最前,deeplearning.ai系列课程相较于之前的Andrew Ng在coursera上2014发布的机器学习课程内容更加丰富。
重要的是此次课程示例代码都是用python来实现,不需要去熟悉octave,对大部分需要用python来学习机器学习的同学来说是个福音!
原课程视频请移步网易云课堂或者coursea上学习。

#本文内容部分来自网络,只为自己学习以及分享供更多的人学习使用吴恩达deeplearning.ai课程系列笔记04

1、深层神经网络

吴恩达deeplearning.ai课程系列笔记04

层神经网络,单个样本其各个参数的矩阵维度为:

如图中所示,L= 4

  • 表示层数,该神经网络
  • 表示第层的神经元的数量,例如
  • 表示第层中的**函数,


2、前向传播和反向传播

  • L:DNN的总层数;
  • :表示第层的包含的单元个数;
  • :表示第层**函数的输出;
  • :表示第层的权重;
  • 输入记为,输出记为

对于前向传播(Forward propagation) 

吴恩达deeplearning.ai课程系列笔记04

而对于反向传播(Backward propagation) 吴恩达deeplearning.ai课程系列笔记04

吴恩达deeplearning.ai课程系列笔记04

用图形简单表示为:

吴恩达deeplearning.ai课程系列笔记04

3、超参数

参数:

参数即是我们在过程中想要模型学习到的信息,

超参数:

超参数即为控制参数的输出值的一些网络信息,也就是超参数的改变会导致最终得到的参数的改变。

例如:

吴恩达deeplearning.ai课程系列笔记04

相关文章: