【发布时间】：2016-06-17 18:21:00
【问题描述】：
例如，在 Caffe 中，应该在 Inner Product (Fully Connected) 层中定义 num_output。这个输出数字是什么意思？
【问题讨论】：
标签： neural-network caffe conv-neural-network
【发布时间】：2016-06-17 18:21:00
【问题描述】：
将全连接层视为1xN 和NxM 的简单矩阵-矩阵乘法以产生维度1xM 的结果。
假设我们传递一个维度为56x56x3 的数据作为全连接层的输入。让重量的尺寸未知NxM。考虑一下，我们设置num_ouput = 4096。
为了计算这些数据，全连接层将维度56x56x3的输入数据重塑为1xN、1x(56x56x3) = 1x9408。
因此，
N = 9408
M=num_output=4096
实际上我们最终做了一个(1x9408)matrix - (9408x4096) matrix 乘法。
如果将 num_output 值更改为 100，它将最终执行 (1x9408)matrix - (9408x100) matrix 乘法。
因此增加num_ouput 值将增加模型必须学习的权重参数的数量。
【讨论】：
-
我觉得你也可以回答这个问题。将不胜感激。 link