【发布时间】:2017-06-28 16:03:42
【问题描述】:
在阅读了几篇关于神经进化(更具体地说是 NEAT)的论文后,我意识到关于在神经网络开始时应该如何加权每个突触的信息非常少。我知道一开始,使用 NEAT,所有输入神经元都连接到输出神经元,然后从那里进行进化。但是,您应该在开始时随机加权每个突触,还是简单地将每个突触设置为 1?
【问题讨论】:
标签: neural-network
在阅读了几篇关于神经进化(更具体地说是 NEAT)的论文后,我意识到关于在神经网络开始时应该如何加权每个突触的信息非常少。我知道一开始,使用 NEAT,所有输入神经元都连接到输出神经元,然后从那里进行进化。但是,您应该在开始时随机加权每个突触,还是简单地将每个突触设置为 1?
【问题讨论】:
标签: neural-network
这并不重要——最重要的是你如何改变基因组中连接的权重。
但是,将每个基因组连接的权重设置为随机值是最好的:它就像在“正确”方向上进行小型随机搜索。如果您为每个基因组设置相同的所有权重,那么基因组中的权重将非常相似:请记住,基因组有很多连接,并且突变率为0.3 和两个突变选项例如,只有 15% 的人口在 1 代后至少有一个不同的权重。
所以让它随机一些,比如random() * .2 - .1(分布在[-0.1, 0.1]之间)。只需找出最适合您的价值观。
【讨论】: