What:这篇是将生成对抗网络应用到半监督学习,用discriminator的信号作为无标签数据集的反馈信号,对抗生成网络构建一个对抗规则化的作用。作用将搭建的半监督学习网络应用到语意分割中,通过实验证明半监督学习的有效性,可以用更少的数据集训练出较好的结果。网络的结构图如下图所示,有标签的图片得到一组分类损失,无标签的图片得到一组对抗损失,通过反馈优化网络参数。

《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记

Why:提出这个结构的原因,首先半监督学习有一个很大的优点, 需要标注的标签相对要少很多,而标注标签是一个相当费时费力的工作。然后,作者在related work中分析了很多其他结构的不足之处:自编码结构限制了其监督网络结构必须和encoder一样;self-supervised 方法也有与autoencoder相同的缺点,限制结构且不适合用于捕获输出变量之间的相关性等。Gan的提出得到多种应用,同时也启发了作者对半监督网络的构建,通过对抗网络和没有标注的图片来规则化图片。

How:主网络是一个segnet-basic network, 由编码解码两部分组成,编码部分:4个 convolution(7*7)-bath normalization-Relu-max pooling(stride=2), 解码部分:4个 max unpooling(stride=2)-convolution(7*7)-bath normalization. 具体可以看segnet.

对抗网络:3个convolution(3*3,output stride=2)-bath normalization- LRelu,后面再接一个全局池化,最后一个线性层是单变量输出。

损失函数的构建与网络的训练:

损失函数的构建:损失函数由两个部分构成,一部分是作用于有标签的图片上,这一部分就是一个经典的分类损失函数。另一部分是作用于没有标签的图片,这一部分是对抗损失函数。定义如下所示:
《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记
其中对抗损失函数用如下函数:

《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记
网络的训练就是优化下面这公式的过程,训练时用1/8,1/4,1/2分别训练验证结果:

《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记
具体过程如下表所示:
《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记

Result:结果就是用更少的标注图片训练得到很好的结果,结果如下:
《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记
《An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks》笔记

相关文章:

  • 2021-10-19
  • 2022-01-26
  • 2021-11-05
  • 2021-10-23
  • 2021-12-05
  • 2022-02-08
  • 2023-01-04
猜你喜欢
  • 2021-12-31
  • 2021-07-10
  • 2021-11-08
  • 2022-01-19
  • 2022-01-10
  • 2021-10-11
  • 2021-06-18
相关资源
相似解决方案