用tensorflow实现了一个网络,意欲用caffe复现该网络,几经挣扎后,代码终于写好了,但是出现了新的问题,精度不一样,caffe的精度比tensorflow低2~3个百分点。这可咋整,仔细分析网络,通过打印accuracy和loss,发现caffe的loss总是比tensorflow低一下,而caffe的accuracy却也要低一些。如下图所示:


tensorflow和caffe的loss有区别

横坐标表示准确率,纵坐标表示loss score,红色表示tensorflow的结果,绿色的表示caffe的结果,可以发现两条线几近平行,非常有规律的差了一些,一直以为是这里的原因,仔细分析,发现caffe中默认打印的loss不包含正则项,而我在tensorflow中的loss是包括了正则项的。


只打印tensorflow中的cross entropy时,发现二者一致。如下图:

tensorflow和caffe的loss有区别

相关文章: