在 lua 中使 AlexNet 的第一层并行

Question

我正在尝试在 Lua 的 Torch 中为 Alexnet 的第一层创建并行表。我想将两批 RGB 图像传递给网络，然后将它们的添加发送到下一层。例如：假设我想将 6 个通道的图像发送到 alexnet 的第一层，但在这种情况下，我想将两批 3 个通道的图像发送到第一个并行层，将它们连接起来，然后将输出发送到下一层层。 实际代码是这样的：

net = nn.Sequential()
net:add(nn.SpatialConvolution(3,96,11,11,4,4,2,2))       
net:add(nn.SpatialBatchNormalization(96))
net:add(nn.ReLU(true))
net:add(nn.SpatialMaxPooling(3,3,2,2))                   
net:add(nn.SpatialConvolution(96,256,5,5,1,1,2,2))       
net:add(nn.SpatialBatchNormalization(256))
net:add(nn.ReLU(true))
net:add(nn.SpatialMaxPooling(3,3,2,2))                   
net:add(nn.SpatialConvolution(256,384,3,3,1,1,1,1))     

我认为它可以工作的代码是：

net = nn.Sequential()
c = nn.ParallelTable()
c:add(nn.SpatialConvolution(3,48,11,11,4,4,2,2)) 
c:add(nn.SpatialConvolution(3,48,11,11,4,4,2,2))
net:add(c)
net:add(nn.JoinTable(1,8))
net:add(nn.SpatialBatchNormalization(96))
net:add(nn.ReLU(true))
net:add(nn.SpatialMaxPooling(3,3,2,2)) 

我得到的错误是：

在 nn.ParallelTable 的 1 个模块中： /torch/install/share/lua/5.1/cudnn/init.lua:171：断言失败！

我想知道这个实现哪里出了问题，非常感谢任何帮助。

谢谢

Answer 1

您的错误出现在net:add(nn.JoinTable(1,8)) 行上，它应该是 3 而不是 8。这个值是输入张量的维度数（不将批处理维度计为维度）。在这里你用 3D 图像为你的网络提供信息，然后你应该写 net:add(nn.JoinTable(1,3))

我使用了以下代码，一切顺利

require 'nn'
require 'cutorch'
require 'cunn'
require 'cudnn'

net = nn.Sequential()
c = nn.ParallelTable()
c:add(nn.SpatialConvolution(3,48,11,11,4,4,2,2)) 
c:add(nn.SpatialConvolution(3,48,11,11,4,4,2,2))
net:add(c)
net:add(nn.JoinTable(1,3))
net:add(nn.SpatialBatchNormalization(96))
net:add(nn.ReLU(true))
net:add(nn.SpatialMaxPooling(3,3,2,2)) 

net:cuda()

input1 = torch.rand(128,3,227, 227):cuda()
input2 = torch.rand(128,3,227,227):cuda()

out = net:forward({input1, input2})

print(out:size())