自动编码器,也就是自编码神经网络,是神经网络的一种

采用无监督学习的方式对高维数据进行高效的特征提取和特征表示,在学术界和工业界都大放异彩

 

 

我们之前看的都是监督学习

但是生活中的大量的数据都是没有label的

深度学习与神经网络(十三)—— Auto-Encoder自动编码器

现在来看非监督学习

 

 

机器学习领域的三大方向

深度学习与神经网络(十三)—— Auto-Encoder自动编码器

强化学习(樱桃)、监督学习(蛋糕的外皮)、非监督学习

 

 

为什么需要非监督学习?

降维

利用大量的无标签数据

 

 

https://projector.tensorflow.org/

 

 

Auto-Encoders

深度学习与神经网络(十三)—— Auto-Encoder自动编码器

监督学习是有一个明确的目标的,那么非监督学习也是有目标的

目标就是重建它自己
深度学习与神经网络(十三)—— Auto-Encoder自动编码器

与CNN不同的在于,CNN的输出层是分类,如果是十分类输出层就有10个节点。但无监督网络就无法分类,其目标就是重建自己,所以输出层的节点数=输入层的节点数

自编码神经网络就是一个特殊的全连接层

neck可以升维也可以降维,大部分是降维

 

怎样训练

深度学习与神经网络(十三)—— Auto-Encoder自动编码器

 

PCA vs AutoEncoders

 

 

AutoEncoder的一些变种

 

 

 

 

 

 

Adversarial Autoencoders

对抗自编码器,AAE

将GAN的技术应用到了autoencoder上面

 

 

 

相关文章: