第一步:创建数据,这里是两个样本,每个样本是两个通道的三乘四矩阵

Batch Normalization 的拆解操作

第二步: 求解所有样本每个通道的均值, 注意维度

Batch Normalization 的拆解操作

第三步: 求解所有样本的每个通道的方差, 注意维度

Batch Normalization 的拆解操作

第四步: 标准化处理

Batch Normalization 的拆解操作

第五步:整合成函数,并做处理

注:这个函数是从 https://zhuanlan.zhihu.com/p/81891467 抄来的

Batch Normalization 的拆解操作

第六步: 试验一把

Batch Normalization 的拆解操作

其实画图更好理解:

Batch Normalization 的拆解操作

先求出每个通道的平均值和方差,然后每个样本的该通道的每个值都需要根据这个均值和方差进行归一化, 可以把每个通道看做一个特征, 然后对特征进行归一化处理

 

相关文章:

  • 2021-12-12
  • 2021-07-23
  • 2021-04-14
  • 2021-10-14
  • 2021-10-29
猜你喜欢
  • 2022-01-23
  • 2021-10-08
  • 2021-09-30
  • 2021-06-01
  • 2021-08-15
  • 2021-10-08
相关资源
相似解决方案