【发布时间】:2020-04-14 07:09:53
【问题描述】:
我阅读过有关为分类问题找到正确的隐藏层数量和每个隐藏层中的神经元数量的帖子和文章。但是,我找不到任何回归的相关信息?
有人能帮忙解释一下隐藏层和其中神经元的正确数量的计算吗?
【问题讨论】:
标签: machine-learning neural-network
我阅读过有关为分类问题找到正确的隐藏层数量和每个隐藏层中的神经元数量的帖子和文章。但是,我找不到任何回归的相关信息?
有人能帮忙解释一下隐藏层和其中神经元的正确数量的计算吗?
【问题讨论】:
标签: machine-learning neural-network
正如 @skillsmuggler 指出的那样:
没有计算或公式,也没有找出层数/神经元的数量,通过参数定制和优化,它有点像一个线索和错误。
我认为有一个参数可能会影响层数/神经元的数量及其数据集的大小。 如果数据集大小相对较小,则网络的大小不应“大”(根据我的实践),否则您的模块将很快过拟合。
您可以阅读“How to prevent Overfitting in your Deep Learning Models”了解更多信息。
【讨论】:
对于“正确”数量的隐藏层和其中的神经元,没有计算。
试图通过调整隐藏层和其中神经元的数量来找到最佳模型是一个非常困难的优化问题。最好的模型是具有最高准确率(在分类的情况下)或最小损失(在压制的情况下)等的模型。为了找到这样的模型,当前的方法是使用跟踪和错误或根据过去的经验决定参数。
参数优化是一个新的研究领域,其中算法用于尝试找到产生最佳模型的最佳超参数(隐藏层、神经元、学习率等)。
Here's 一篇利用粒子群优化 (PSO) 尝试寻找最优超参数的研究论文。
【讨论】: