在深度网络训练期间关闭特征

Question

我正在寻找以下问题的解决方案： 我的神经网络有 8 个特征和 6 个输出。

网络预测图表上的一些信息，其中记录与图表中的节点相关。 当我拥有具有相同程度邻居的所有示例（节点）时，它可以完美运行。 现在我需要它也适用于具有较少邻居的节点，但在一般形式上，这意味着我不知道先验有多少。

因此，当邻居不存在时，我尝试输入零，但是所有的预测都很奇怪，根本不正确。

所以我的问题是：有没有一种方法可以在训练期间关闭一些输入神经元，看看我在该示例中有多少有效特征？

更准确地说：NN 采用的第一个示例具有完整的邻居，因此我有 8 个值；第二个有 6 个值，所以我想关闭 2 个输入神经元等等。

有什么想法吗？

Answer 1

一个可能可行的简单解决方案是将功能声明为不相关。因此，您只需指定一个值，这会使模型知道不应在此迭代中使用它。因此，当您将值设置为零时，模型只会认为它是零，因此含义不明确。但是，如果您将其设置为 -1，例如但是 -1 根本不会出现在您的数据中，模型可能能够得知 -1 表示不存在的特征，并更多地关注其他特征。