01 压缩感知
Nyquist采样定理表明当采样速率大于或等于信号带宽的2倍时采样信号可以重构原始信号。但是，经Nyquist采样得到的信号大多数是多余的，既然是多余的，为什么还要采集？有没有一种采样方式可以只采集原始信号的其中一部分就能够完美地代替原始信号？答案是肯定的，假设有一种方法能够只对原始信号中最具代表性的成分进行采样，那么这种新的采样方式实际上相当于对Nyquist采样信号进行了压缩。这种压缩式的采样便是今天的主题——压缩感知或压缩采样。
令x(t)是一连续时间信号，理想情况下我们希望使用Nyquist速率采样，并得到n个离散时间信号的列向量x=[x(1),x(2),...x(n)]'。然而，正如上所述，实际上我们可以使用远低于Nyquist的速率进行采样（只采集最具代表性的成分，当然这很难实现，但是理论上确实存在。），于是采样结果表现为一低维的测量数据y=[y(1),y(2),...y(m)]'，其中m<<n。并且，存在x=y的情况，如下所示：
进一步改写为：
其中，A为感知矩阵，D为高维数据的过完备字典，a为高维数据在字典D情况下的系数向量。
02 超分辨率重建
如上所述，不妨令x为高分辨率图像，y为相应的低分辨率图像。本文的目的是从低分辨率图像y中恢复出高分辨率图像x。要解决这个问题，首先得求出高分辨率图像的字典D以及低分辨率图像在字典D情况时的稀疏表示系数a。因此，基于压缩感知的单帧图像超分辨率重建分为以下4个步骤：
02-01 字典训练
对于给定的高分辨率图像xh，首先对其进行退化操作得到低分辨率图像xl，进而对xh、xl分别切块并化矩阵为向量，其完整的过程如下：
其中，F为高通滤波算子，可以视作非线性映射。
02-02 系数向量
由于高分辨率图像、低分辨率图像的字典Dh、Dl已经求得，根据压缩感知理论可知：当低分辨率图像在字典Dl下的系数向量a已知时，便可以顺利地求出相应的高分辨率图像。于是，系数向量的计算方法如下：
02-03 超分辨率重建
根据求得的高分辨率图像的字典Dh以及低分辨率图像的系数向量a，很方便地求出该低分辨率图像对应的高分辨率图像。其示意图如下：
02-04 重建约束
重建得到的图像或许是高分辨率图像，但是也有可能会出现重建过度或重建不足等异常现象。因此，最好再对X0加以全局约束，如下：
03 思考讨论
本文的高通滤波算子F与超分辨率重建工作有着异曲同工之妙，二者都是针对高频分量做文章。另外，请思考共享系数向量的理由是什么？为什么要求过完备的字典？文中的两个约束分别是何作用？求系数向量时为什么要加入邻域约束？局部模型和全局模型是如何相辅相成的？P矩阵的作用是什么？神经网络中的ReLU函数可以被哪个矩阵替代？