简单模型的精度为 0.0

Question

我正在一个包含始终等于 0 的标签的数据集上训练一个简单模型，并且获得了 0.0 的准确度。

型号如下：

import csv
import numpy as np
import pandas as pd
import tensorflow as tf

labelsReader = pd.read_csv('data.csv',usecols = [12],header=None)
dataReader = pd.read_csv('data.csv',usecols = [1,2,3,4,5,6,7,8,9,10,11],header=None)

labels_ = labelsReader.values
data_ = dataReader.values

labels = np.float32(labels_)
data = np.float32(data_)

x = tf.placeholder(tf.float32, [None, 11])
W = tf.Variable(tf.truncated_normal([11, 1], stddev=1./11.))
b = tf.Variable(tf.zeros([1]))
y = tf.matmul(x, W) + b

# Define loss and optimizer
y_ = tf.placeholder(tf.float32, [None, 1])

cross_entropy = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y_, logits=y))
train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

sess = tf.InteractiveSession()
tf.global_variables_initializer().run()

for i in range(0, 1000):
    train_step.run(feed_dict={x: data, y_: labels})

correct_prediction = tf.equal(y, y_)
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
print(sess.run(accuracy, feed_dict={x: data, y_: labels}))

这是数据集：

444444,0,0,0.9993089149965446,0,0,0.000691085003455425,0,0,0,0,0,0

随着模型的训练，上面显示的数据的 y 减小，在 1000 次迭代后达到 -1000。

训练模型失败的原因可能是什么？

Answer 1

您的准确性检查预测的浮点数是否完全等于您的预期值。对于您创建的网络，这是一项非常艰巨的任务（尽管您可能有机会，因为您也过度拟合了数据）。

为了获得更好的结果： - 将精度定义为高于/低于某个值（接近 1 或接近 0）。 - 规范化你的输入数据，我不知道你输入的范围，但是 444444 是一个可笑的值用作输入，而且很难训练可以处理这些值的权重。

另外：尝试添加一些健全性检查。例如：您的模型预测的输出是什么？ （y.eval）你在训练网络时的交叉熵是多少？ (sess.run([accuracy,cross_entropy], feed_dict={x: data, y_: labels})

祝你好运！