目录
1.传统的人工神经网络(也叫作多层感知机)分为几大模块
2. 卷积神经网络(也叫作多层感知机)分为几大模块?
3.基于点云的神经网络
神经网络可以分为生物神经网络和人工神经网络。我们通常在机器学习领域提到的神经网络都指的是人工神经网络。
1.传统的人工神经网络(也叫作多层感知机)分为几大模块
举一个实际的例子来理解神经网络:假如我们有一个有关于房价的数据集,这个数据集中有6个样本,每个样本的特征是房屋的面积、地区富裕度、卧室数量,而样本的标签就是房屋的价格,此时我们需要一个能够拟合这个数据集的函数,并且能够通过这个函数根据房屋的面积来预测房价。
于是我们可以构建下面的神经网络:每一个圆圈代表一个神经元,用于储存样本的特征和预测结果。
所以神经网络最基本的模块可以简单理解为:输入层、函数(隐藏层)、输出层。
注意针对不同的数据集和任务,输入、输出的神经元个数不同。比如,若数据集中还提供了房屋是否带装修这一特征,那么我们需要将这一特征考虑在内,在输入层中就要增加神经元的个数。
总而言之,人工神经网络分为:输入层、隐藏层、输出层。具体每一层包含多少个神经元是根据特定的任务和数据集来设计的。
2. 卷积神经网络(也叫作多层感知机)分为几大模块?
卷积神经网络是专门用于处理类似网格结构的数据的神经网络。例如时间序列(时间轴上的一维网格)和图像数据(二维像素网格)。更多关于卷积网络的总结见《深度学习-第九章》
下面是一个卷积网络的示例:
可以看出其包含:输入层、卷积层、池化层、全连接层和输出层。
但是卷积层、池化层和全连接层均可以看作一个函数,卷积层和池化层可以看做是考虑到图像等网格数据的特点而设计的全连接层的一个变体。最后的全连接层将网格状的数据铺平并连接输出类别个数。
3.基于点云的神经网络
前面介绍了神经网络和专门用来处理网格状数据的卷积神经网络。点云并不是网格状的数据结构,而是3维空间中排列不规则的点。有些方法想要借鉴图像中卷积神经网络,于是将3D点云进行划分(体素划分或者体柱划分)或者投影到平面上;还有一些方法直接对点云处理,由于不是网格类似的数据,所以用的仅仅是人工神经网络。
- 网络应该满足:
- 平移不变性:类似于图像
- 旋转不变性:类似于图像
- 排列不变性:扫描到的点云本身就包含x,y,z三维坐标,所以其空间位置就包含在原始输入中,所以要求N个点,不管以何种顺序(N!)输入函数中,得到的结果应该是相同的。在图像中像素的位置,先后卷积的顺序是重要的,像素本身是有序的。