[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep
Auto-encoder;无监督学习:深度自动编码器)

PDF VIEDO

Auto-encoder

什么是-encoder呢?

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

NN Encoder & NN Decoder 要一起训练。


Starting from PCA

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

the auto-encoder can be deep

Deep Auto-encoder

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

PCA&Deep Auto-encoder 比较,明显后者效果更好。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

当code为二维时,很明显看到Deep Auto-encoder使数字手写识别集分类地更好。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

Auto-encoder – Text Retrieval

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

Bag-of-word方法将document用向量表示,每一个词都是平等的,无法考虑语义。
而Auto-encoder可以考虑语义。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

Auto-encoder – Similar Image Search

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

但是这样并不能得到想要的结果,杰克逊和马蹄铁都被聚到一起。。。

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

所以,可以用Pre-training DNN。


Auto-encoder for CNN

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

CNN -Unpooling

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

CNN - Deconvolution

Actually, deconvolution is convolution.

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

[机器学习入门] 李弘毅机器学习笔记-17(Unsupervised Learning: Deep Auto-encoder;无监督学习:深度自动编码器)

相关文章: