Neighbor embedding - manifold learning

LLE

地球就是一个流形
【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

流形学习就是将高维的(流形的)feature的摊平,摊平之后就可以用欧氏距离了。

假设空间中有两个点xi和xj,他们俩的关系为wij

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

LLE方法就是找到Zfunction
【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

这需要调整LLE 的neighbor选几个

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

拉普拉斯特征图

将相似度高的点连起来成为一个graph

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

t-SNE

如右图,图片data中有些点形成了一些圈圈,意味着有些object虽然很像,但是旋转之后(换个角度)看完全不一样了。

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

计算所有pairs的相似度。

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

我们需要衡量两个distribution的相似度,算KL散度

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

之前算similarity的方法:

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

SNE方法:

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

t-SNE方法:

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

t-SNE会把data gap强化,将同类聚起来

【学习笔记】李宏毅2020ML&DL课程 13_2 Unsupervised Learning

相关文章:

  • 2021-05-26
  • 2021-10-30
  • 2021-09-05
  • 2021-04-03
  • 2021-10-24
  • 2021-08-01
  • 2022-12-23
  • 2021-08-27
猜你喜欢
  • 2021-12-17
  • 2021-08-18
  • 2021-04-30
  • 2021-10-14
  • 2021-04-14
  • 2021-09-04
  • 2021-08-01
相关资源
相似解决方案