【问题标题】:How to input data in a tensorflow learn validation monitor?如何在 tensorflow 学习验证监视器中输入数据?
【发布时间】:2016-07-21 09:41:15
【问题描述】:

我正在尝试通过将我的验证集作为 numpy 数组传递来在 skflow 中使用验证监视器。

这里是一些重现问题的简单代码(我从提供的 Ubuntu/Linux 64 位二进制文​​件中安装了 tensorflow,启用了 GPU,Python 2.7):

import numpy as np
from sklearn.cross_validation import train_test_split
from tensorflow.contrib import learn
import tensorflow as tf
import logging
logging.getLogger().setLevel(logging.INFO)

#Some fake data   
N=200
X=np.array(range(N),dtype=np.float32)/(N/10)
X=X[:,np.newaxis]
Y=np.sin(X.squeeze())+np.random.normal(0, 0.5, N)

X_train, X_test, Y_train, Y_test = train_test_split(X, Y,  
                                                    train_size=0.8,  
                                                    test_size=0.2)

val_monitor = learn.monitors.ValidationMonitor(X_test, Y_test,early_stopping_rounds=200)
reg=learn.DNNRegressor(hidden_units=[10,10],activation_fn=tf.tanh,model_dir="tmp/")
reg.fit(X_train,Y_train,steps=5000,monitors=[val_monitor])
print "train error:", reg.evaluate(X_train, Y_train)
print "test error:", reg.evaluate(X_test, Y_test)

代码运行,但只有第一个验证步骤正确完成,然后验证总是返回相同的值,即使训练实际上进行得很好,这可以通过在最后对测试集运行评估来检查。每个验证步骤还会显示以下消息。

INFO:tensorflow:Input iterator is exhausted. 

欢迎任何帮助! 谢谢, 大卫

【问题讨论】:

  • 您的数据是什么样的?使用时需要注意every_n_steps、steps、batch_size。
  • 我现在编辑了我的问题以提供一个示例。我不能用batch_size 和steps 作为关键字参数调用ValidationMonitor。我从提供的 Ubuntu/Linux 64 位、启用 GPU、Python 2.7 的二进制文件中安装了 tensorflow。可能是最近更改了监视器的代码?
  • 是的,它发生了很大变化。请尝试最新版本。
  • 我现在已经从源代码构建了 tensorflow,但我仍然遇到了同样的问题。我现在在日志中收到这条消息:INFO:tensorflow:Skipping evaluation due to same checkpoint tmp/model.ckpt-0-?????-of-00001 for step 200 as for step 100.

标签: python-2.7 tensorflow deep-learning skflow


【解决方案1】:

我可以通过添加以下内容来解决此问题: config=tf.contrib.learn.RunConfig(save_checkpoints_secs=1) 拨打DNNRegressor 电话。

【讨论】:

    【解决方案2】:

    改进 dbikard 的解决方案:

    将config=tf.contrib.learn.RunConfig(save_checkpoints_steps=val_monitor._every_n_steps) 添加到DNN Regressor 调用中。

    这会在需要时(即每次触发监视器之前)保存检查点,而不是每秒一次。

    【讨论】:

      猜你喜欢
      • 2017-06-13
      • 2017-07-05
      • 2018-10-08
      • 2021-05-09
      • 2018-03-09
      • 2017-03-04
      • 2020-05-06
      • 2017-01-29
      相关资源
      最近更新 更多