为什么深度学习模型不与加州房价数据融合？

Question

我是深度学习和一般机器学习的新手。我试图通过将 8 个特征中的每一个传递到 5 层网络并训练价格输出来处理加利福尼亚房价数据集。我使用 MSE 损失和准确度作为 2000 个 epoch 的指标。损失开始时可以理解的大，减少到一定程度并停留在相同的值附近。在 2000 个 epoch 中，准确率一直停留在 0。

我在网上看到了一些解决方案，例如将总房间除以家庭数量，以找出每个家庭的平均房间数量。我看到做这样的特征工程会帮助模型更快地收敛，但我希望模型在完全没有特征工程的情况下收敛。

据我了解，神经网络是函数逼近器，因此它构建了一个从数据集输入到输出的函数。理想情况下，我希望它也能找到复杂的特性，比如在线解决方案中手动计算的特性。有这些期望我错了吗？模型不收敛的原因是什么？

train_data = pd.read_csv('./sample_data/california_housing_train.csv', sep=',')
test_data = pd.read_csv('./sample_data/california_housing_test.csv', sep=',')

model = tf.keras.models.Sequential([
  layers.Dense(8),
  layers.Dense(5, activation=tf.nn.relu),  
  layers.Dense(7, activation=tf.nn.relu),  
  layers.Dense(5, activation=tf.nn.relu),
  layers.Dropout(0.2),
  layers.Dense(1)
])

model.compile(optimizer='adam', loss='mean_squared_error', shuffle=True, metrics=['accuracy'])

model.fit(train_data.values[:, 0:8], train_data.values[:, 8], epochs=2000)

输出

Answer 1

准确性不是回归问题的有效指标。 What function defines accuracy in Keras when the loss is mean squared error (MSE)?

另外，请使用 Min-max 或零均值/单位方差归一化对输入数据进行归一化。此外，要学习的输出数据（10,000 的数量级）的范围非常大，因此，您可以将输出值除以 10,000（在预测期间您可以将该值乘回）。这些变化将有助于网络更快地收敛。网络的容量也可能需要增加。

数值数据的不同归一化类型： https://developers.google.com/machine-learning/data-prep/transform/normalization

Answer 2

您在这里解决的是回归问题，因此准确度不能用作评估模型的指标。相反，您可以使用mae、mape、mse 之类的性能度量，它们更适合评估预测连续目标变量的模型。

此外，我不会说您的模型没有收敛，如果您查看它不断减少的损失，那么收敛没有问题，您只需将评估度量更改为我上面提到的东西.

请参阅How to Use Metrics for Deep Learning with Keras in Python 或Usage of metrics，了解有关如何实施这些绩效指标的更多详细信息。

希望这会有所帮助！