【发布时间】:2017-10-25 08:51:23
【问题描述】:
我目前正在尝试在 Keras 中使用 Batch Normalization 实现模型。我已经成功地在培训阶段实施了它。
但是,对于测试,Batch Normalization 在进行网络前向传递之前计算整个总体的统计数据(均值和方差)(预先计算 BN 均值和方差,然后保持静态;这是相反的)到训练阶段,均值和方差由批次决定)。
我关于 Keras 的问题是:
假设 (X, y) 是整个人口。 假设 (X_batch, y_batch) 是一个批次(整个种群的一个子集)
如果我使用
model.test_on_batch(X_batch, y_batch)
如何将 X 和 y 的整个总体的均值和方差传递给批量归一化层?有什么办法可以让 keras 自动处理这个问题?
【问题讨论】:
-
我回答你的问题了吗?
-
@MaxB,是的,你做到了,非常感谢!它没有解决我的问题,但你回答了我的问题:)
标签: tensorflow neural-network batch-processing keras batch-normalization