Tensorboard 标量图中的鬼线

Question

我在 Tensorflow 中附上了一张标量摘要图的图像。如您所见，绘制了两条橙色线。根据传说，一个对应于实际值（虚线），另一个对应于平滑值（主线）。 我不明白为什么要绘制这两条线，因为损失在训练过程的每次迭代中都是一个值。

我希望有人可以帮助我。 谢谢

Loss during Training

Answer 1

平滑是随时间变化的（x 轴），而不是每次迭代的多个值。当损失可能非常不稳定时，这会产生更一致的曲线。如果您想查看每个时间步的损失的真实值，请调低平滑滑块。