【发布时间】：2015-06-24 02:22:09
【问题描述】：
到目前为止，我知道深度学习是机器学习的一个子集。我知道一些算法及其在机器学习中的实现，如 KNN、朴素贝叶斯等。是否有任何特定的算法集来表示和实现深度学习？
【问题讨论】：
标签： machine-learning deep-learning
【发布时间】：2015-06-24 02:22:09
【问题描述】：
将特定机器学习概念的“算法”、“方法”、“模型”和“实现”等概念混为一谈是一种常见的误解。 ML 社区中定义的大多数事物都是模型或方法，而不是算法或实现。粗略地说：
- 模型是一种以数学方程式/公式的形式表示实际、真实过程的形式。其中一种模型可以是最近邻分类器或线性分类器
- 方法通常是一种解决问题的形式，即使用一些数据（例如梯度方法 优化，通常用于训练 ML 模型）
- 算法是一组指令，通常在一些伪代码中显示为创建某个实现需要执行的确切操作给定方法。
- 最后实现是一个特殊的代码，它实现了一些抽象算法
所以现在，深度学习只是 ML 中的一个通用概念，目前还没有明确的定义，虽然它经常被用来与 涉及数据表示的分层抽象的模型相关 以及此类模型的训练方法。
最常见的 DL 模型是深度神经网络，换句话说，神经网络有多个（多少？这是一个公开辩论，有人说 5，其他10 或 30）非线性隐藏层。一些模型包括：
- 深玻尔兹曼机 (DBM)
- 深度自动编码器 (DAE)
- 深度卷积神经网络 (DCNN)
- 循环神经网络 (RNN)
一般模型可以是深度，并且可以有用于深度学习的方法、算法或实现 > 用于深度学习的算法。其中一些算法是
- 对比分歧 (CD)
- 持续对比分歧 (PCD)
用于训练 DBM。
【讨论】：
深度学习是受人脑工作启发的机器学习的一个子集。它涉及训练大量神经元，这些神经元建立一个模型，然后使用这个模型来预测一些新的观察结果。 深度学习有两类学习，其中涉及各种类型的模型（不应称为算法），如下所述：
- 监督深度学习：在监督下学习，即提供大量输入和输出数据集并训练模型，然后使用该训练模型预测新数据观察的输出。 主要拥有三种类型的深度学习模型
人工神经网络：用于回归和分类。简单文本数据示例。
卷积神经网络：用于图像分类和计算机视觉。
循环神经网络：用于时间序列分析和长短期记忆。从一种语言到另一种语言的示例翻译。
- 无监督深度学习：自行学习。主要有三种类型的模型：
自组织地图：用于特征检测
深度玻尔兹曼机：用于推荐系统
自动编码器：用于推荐系统
【讨论】：
以下这些算法涉及深度学习：
然后可以将深度学习定义为在四种基本网络架构之一中具有大量参数和层的神经网络。
- 无监督预训练网络。
- 卷积神经网络。
- 循环神经网络。
- 递归神经网络。
【讨论】：