主要关注两个点:如何获取视频全局上的表达(考虑更长的时序上的信息),在获取全局表达时如何避免冗余的计算量(相比3D卷积核直接应用在所有frame stacks)。

主要工作

读书笔记:Beyond Short Snippets: Deep Networks for Video Classification
论文中讨论了两种方法,一种是提取每一帧的深度卷积特征,再使用不同的pooling层结构进行特征融合,得到最终输出。一种是使用lstm提取视频序列上的全局信息,再加softmax层得到最终分类。

Feature Pooling Architectures

读书笔记:Beyond Short Snippets: Deep Networks for Video Classification

Conv Pooling的效果最好,因为它在时间序列上的max pooling层,保留了空间信息。Late Pooling效果差也是因为高维的全连接层破坏了空间结构。Time-Domain Conv相当于用小的时序窗口捕获局部结构,最后实验效果最差,说明更长的时间序列效果更好。

LSTM Architecture

读书笔记:Beyond Short Snippets: Deep Networks for Video Classification

其他

  1. 使用光流
    对CNN Architecture基本没有帮助,对LSTM能够提高一个百分点。
  2. 帧数目的影响
    读书笔记:Beyond Short Snippets: Deep Networks for Video Classification

相关文章: