以下是我们在推导sparse autoencoder时使用的符号一览表:

符号 含义
稀疏自编码器一览表 训练样本的输入特征,稀疏自编码器一览表.
稀疏自编码器一览表 输出值/目标值. 这里 稀疏自编码器一览表 能够是向量. 在autoencoder中。稀疏自编码器一览表.
稀疏自编码器一览表 第 稀疏自编码器一览表 个训练样本
稀疏自编码器一览表 输入为 稀疏自编码器一览表 时的如果输出,当中包括參数 稀疏自编码器一览表. 该输出应当与目标值 稀疏自编码器一览表 具有同样的维数.
稀疏自编码器一览表 连接第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元和第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元的參数.
稀疏自编码器一览表 第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元的偏置项. 也能够看作是连接第 稀疏自编码器一览表 层偏置单元和第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元的參数.
稀疏自编码器一览表 參数向量. 能够觉得该向量是通过将參数 稀疏自编码器一览表 组合展开为一个长的列向量而得到.
稀疏自编码器一览表 网络中第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元的激活(输出)值.

另外,因为 稀疏自编码器一览表 层是输入层,所以 稀疏自编码器一览表.

稀疏自编码器一览表 激活函数. 本文中我们使用 稀疏自编码器一览表.
稀疏自编码器一览表 第 稀疏自编码器一览表 层 稀疏自编码器一览表 单元全部输入的加权和. 因此有 稀疏自编码器一览表.
稀疏自编码器一览表 学习率
稀疏自编码器一览表 第 稀疏自编码器一览表 层的单元数目(不包括偏置单元).
稀疏自编码器一览表 网络中的层数. 通常 稀疏自编码器一览表 层是输入层,稀疏自编码器一览表 层是输出层.
稀疏自编码器一览表 权重衰减系数.
稀疏自编码器一览表 对于一个autoencoder,该符号表示其输出值;亦即输入值 稀疏自编码器一览表 的重构值. 与 稀疏自编码器一览表 含义同样.
稀疏自编码器一览表 稀疏值,能够用它指定我们所需的稀疏程度
稀疏自编码器一览表 (sparse autoencoder中)隐藏单元 稀疏自编码器一览表 的平均激活值.
稀疏自编码器一览表 (sparse autoencoder目标函数中)稀疏值惩处项的权重.

相关文章: