分类和位置调整都是通过全连接层(fc)实现的,设前一级数据为全连接层提速后一级为全连接层提速,全连接层参数为全连接层提速,尺寸全连接层提速,一次前向传播(forward)即为:

全连接层提速

计算复杂度为全连接层提速

全连接层提速进行SVD分解,并用前t个特征值近似:

全连接层提速

原来的前向传播分解成两步:

全连接层提速

计算复杂度变为 全连接层提速

在实现时,相当于把一个全连接层拆分成两个,中间以一个低维数据相连:

全连接层提速

 

相关文章:

  • 2021-04-14
  • 2021-09-01
  • 2021-11-15
  • 2021-05-23
  • 2022-01-08
猜你喜欢
  • 2021-05-29
  • 2022-01-14
  • 2022-12-23
  • 2021-04-01
  • 2022-12-23
  • 2021-11-27
相关资源
相似解决方案