以下是我们在推导sparse autoencoder时使用的符号一览表:
| 符号 | 含义 |
| 训练样本的输入特征, |
|
| 输出值/目标值. 这里 |
|
| 第 |
|
| 输入为 |
|
| 连接第 |
|
| 第 |
|
| 參数向量. 能够觉得该向量是通过将參数 |
|
| 网络中第 另外,因为 |
|
| 激活函数. 本文中我们使用 |
|
| 第 |
|
| 学习率 | |
| 第 |
|
| 网络中的层数. 通常 |
|
| 权重衰减系数. | |
| 对于一个autoencoder,该符号表示其输出值;亦即输入值 |
|
| 稀疏值,能够用它指定我们所需的稀疏程度 | |
| (sparse autoencoder中)隐藏单元 |
|
| (sparse autoencoder目标函数中)稀疏值惩处项的权重. |