周健,刘浩
(东华大学 信息科学与技术学院,上海 201620)
摘要:
相较于奈奎斯特-香农定理所要求的采样数据量,压缩感知理论表明采用较少的测量值就可以实现高维信号的重构,因此压缩感知在视频信号传感中具有很大的潜力.现有的视频压缩感知重构算法是利用多假设预测来得到残差模型,大量文献采用基于最小均方误差的方法挑选多假设匹配块,由此对视频信号进行重构,然而没有考虑最大化重构视频的整体结构相似性,在图像重构的整体质量效果上存在较大改进空间,并且挑选匹配块的模式没有采用自适应的选择机制,挑选匹配块的方式较为单一.通过增加一定的复杂度,本文提出了一种基于动态多模式匹配的视频压缩感知三步重构算法,该算法主要包括三大步骤:第一步,对压缩感知的每一视频帧进行独立的重构;第二步,从参考帧中动态地挑选匹配块进行非关键帧的重构;第三步,基于整体结构相似性对重构帧进行最终挑选,完成多帧重构.实验结果表明,所提算法能够在重建端有效提高多假设过程的预测精度,与当前最优的视频重构算法相比,进一步提升了重构质量.
关键词: 视频重构 压缩感知 多假设预测 整体结构相似性
DOI:10.11918/j.issn.0367-6234.201902009
分类号:TN919
文献标识码:A
基金项目:上海市自然科学基金(18ZR1400300)
Three-phase video compressive sensing reconstruction viadynamic multi-pattern matching
ZHOU Jian,LIU Hao
(College of Information Science & Technology, Donghua University, Shanghai 201620, China)
Abstract:
Compressive sensing theory indicates that high-dimensional signal reconstruction can be obtained from far fewer measurements than those required by the Nyquist-Shannon sampling theorem, and compressive sensing has a great potential in video signal sensing. The existing reconstruction algorithms utilize the multihypothesis prediction to derive the residual model. A large number of studies adopt the method based on the least mean square error to select multiple hypothesis matching patehes and reconstruct the video, while the maximization of the structural similarity is not considered in these algorithms, and there is much room for improvement in the overall quality effect of image reconstruction. Therefore, a three-phase video compressive sensing reconstruction algorithm is proposed in this paper on the basis of dynamic multi-pattern matching, in which the first phase reconstructs each frame independently, the second phase dynamically selects the hypothesis patches from the reference frames and reconstructs the frames, and the final reconstruction result is obtained in the third phase with the best structural similarity. Experimental results demonstrate that compared with the state-of-the-art algorithm, the proposed algorithm could obtain better prediction accuracy and reconstruction quality for video compressive sensing.
Key words: video reconstruction compressive sensing multihypothesis prediction structural similarity
周健, 刘浩. 基于动态多模式匹配的视频压缩感知三步重构[J]. 哈尔滨工业大学学报, 2019, 51(11): 167-173. DOI: 10.11918/j.issn.0367-6234.201902009.
![复制到剪切板](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/copy.gif)
ZHOU Jian, LIU Hao. Three-phase video compressive sensing reconstruction viadynamic multi-pattern matching[J]. Journal of Harbin Institute of Technology, 2019, 51(11): 167-173. DOI: 10.11918/j.issn.0367-6234.201902009.
![复制到剪切板](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/copy.gif)
基金项目 上海市自然科学基金(18ZR1400300) 作者简介 周健(1996—),男,硕士研究生 通信作者 刘浩(1977—),liuhao@dhu.edu.cn 文章历史 收稿日期: 2019-02-03
Contents -->Abstract Full text Figures/Tables PDF
基于动态多模式匹配的视频压缩感知三步重构
周健, 刘浩
![通讯作者](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/REcor.gif)
![liuhao@dhu.edu.cn](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/REemail.gif)
东华大学 信息科学与技术学院, 上海 201620
收稿日期: 2019-02-03
基金项目: 上海市自然科学基金(18ZR1400300)
作者简介: 周健(1996—),男,硕士研究生
通信作者: 刘浩(1977—),liuhao@dhu.edu.cn
摘要: 相较于奈奎斯特-香农定理所要求的采样数据量,压缩感知理论表明采用较少的测量值就可以实现高维信号的重构,因此压缩感知在视频信号传感中具有很大的潜力.现有的视频压缩感知重构算法是利用多假设预测来得到残差模型,大量文献采用基于最小均方误差的方法挑选多假设匹配块,由此对视频信号进行重构,然而没有考虑最大化重构视频的整体结构相似性,在图像重构的整体质量效果上存在较大改进空间,并且挑选匹配块的模式没有采用自适应的选择机制,挑选匹配块的方式较为单一.通过增加一定的复杂度,本文提出了一种基于动态多模式匹配的视频压缩感知三步重构算法,该算法主要包括三大步骤:第一步,对压缩感知的每一视频帧进行独立的重构;第二步,从参考帧中动态地挑选匹配块进行非关键帧的重构;第三步,基于整体结构相似性对重构帧进行最终挑选,完成多帧重构.实验结果表明,所提算法能够在重建端有效提高多假设过程的预测精度,与当前最优的视频重构算法相比,进一步提升了重构质量.
关键词: 视频重构 压缩感知 多假设预测 整体结构相似性
Three-phase video compressive sensing reconstruction viadynamic multi-pattern matching
ZHOU Jian, LIU Hao
![Corresponding author](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/REcor.gif)
![liuhao@dhu.edu.cn](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/REemail.gif)
College of Information Science & Technology, Donghua University, Shanghai 201620, China
Abstract: Compressive sensing theory indicates that high-dimensional signal reconstruction can be obtained from far fewer measurements than those required by the Nyquist-Shannon sampling theorem, and compressive sensing has a great potential in video signal sensing. The existing reconstruction algorithms utilize the multihypothesis prediction to derive the residual model. A large number of studies adopt the method based on the least mean square error to select multiple hypothesis matching patehes and reconstruct the video, while the maximization of the structural similarity is not considered in these algorithms, and there is much room for improvement in the overall quality effect of image reconstruction. Therefore, a three-phase video compressive sensing reconstruction algorithm is proposed in this paper on the basis of dynamic multi-pattern matching, in which the first phase reconstructs each frame independently, the second phase dynamically selects the hypothesis patches from the reference frames and reconstructs the frames, and the final reconstruction result is obtained in the third phase with the best structural similarity. Experimental results demonstrate that compared with the state-of-the-art algorithm, the proposed algorithm could obtain better prediction accuracy and reconstruction quality for video compressive sensing.
Keywords: video reconstruction compressive sensing multihypothesis prediction structural similarity
传统的视频通信系统根据奈奎斯特-香农采样定理对每帧采集一组大量的信号样本,采样率要求不小于视频信号带宽的两倍,随后进行高复杂度的压缩编码,以消除像素之间存在的冗余.压缩感知(CS)技术的兴起提供了一种新型的信号采集与重构方法,根据CS理论,系统只需通过将信号投射到随机基上以获得少量的测量值,在某一变换域中具有稀疏或近稀疏表示的信号就可以通过这些测量值得到高可靠性的重构[1-3].
在初期的压缩感知文献中,测量端对视频帧采用直接观测,但由于视频帧的信息量较大,在进行重构时对计算资源有着非常高的要求.为减少计算复杂度,文献[4]提出了分块压缩感知(BCS)框架及其重构算法,即先对视频帧进行分块测量,之后再利用投影Landweber迭代重构,并在迭代过程中执行维纳滤波以消除重构中的块效应.BCS框架稳定了视频压缩感知的重构质量,大大降低了重构计算的复杂度,被认为是图像/视频压缩感知的典型框架,在图像/视频压缩感知研究中广泛使用.基于BCS框架,文献[5]提出了在离散双树小波变换(DDWT)域进行图像重构的算法,由于这类重构算法没有借鉴传统图像编码中对块间相关性的充分利用,其重构效果并不理想.
对于视频压缩感知,研究人员已经提出在重建端通过块匹配进行运动估计和补偿[6-7],即将相邻帧作为参考帧,从参考帧中选取匹配块作为当前块的一个预测.文献[8]提出通过稀疏化当前帧与其运动补偿帧之间的残差进行重构[9-10],这是因为残差通常比原始信号具有更大的稀疏性.多假设预测是目前视频压缩感知重构的主流技术[11].在变换域多假设预测的研究中,文献[12]对文献[5]进行了改进,采用多假设(MH)预测的线性组合来估计变换域中的运动补偿帧,在重构质量与复杂度两方面取得了较好的性能折中.对于多个匹配块的权值分配问题,文献[13]提出通过增加Tikhonov正则化项来求解最优权值;文献[14]则提出在l2正则化项中加入权重调整函数;文献[15]通过联合lasso模型中的l1范数正则化与回归模型中的l2正则化,求解最优权值.
在匹配块的选取方面,文献[16]提出多参考帧假设集合的优化算法,增加匹配块数目以扩大假设选择范围;文献[17]则提出基于菱形快速搜索的双匹配算法,即利用菱形快速搜索方式确定当前解码块的前景/背景的运动矢量,获得两个最佳搜索窗,从中搜索匹配块.这些挑选匹配块的方法均从最小化每个匹配块与原始块均方误差的角度进行考虑,没有对挑选的匹配块进行整体结构质量的衡量,同时这些挑选匹配块的方法存在复杂度过高的问题.
文献[18]在文献[12]的基础上进一步利用了视频序列的时空相关性,提出了一种基于判别加权残差稀疏性(RSS)的视频重构算法,该RSS算法首先对每帧图像进行高质量的独立恢复,随后执行帧间的运动估计,对非关键帧进行预测.RSS算法建模了信号间残差的稀疏性而不是信号内的稀疏性,对不同残差系数的稀疏性进行判别加权,并对权重进行迭代更新.RSS算法在现有视频重构算法中具有相对突出的重构性能,本文试图在增加一定复杂度的情形下进一步提升其重构质量.此外,现有重构算法均只是试图去最小化块间的均方误差,没有考虑视频整体结构相似性(SSIM)的最大化.在某些情况下,均方误差的最小化并不能得到满意的重构效果.因此,本文提出基于SSIM和动态多模式匹配的视频压缩感知三步重构算法,以期进一步提升视频压缩感知的重构质量.
1 视频压缩感知 1.1 多假设预测压缩感知理论认为,如果一个信号在某变换域中足够稀疏,那么该信号可以从少量的测量值中恢复.若
$\mathit{\boldsymbol{y}} = \mathit{\boldsymbol{\varphi x}}\mathit{\boldsymbol{.}}$ (1)
式中: y ∈
$\hat{\boldsymbol{x}}_{\mathrm{k}}^{\mathrm{p}}=\boldsymbol{E}_{\mathrm{k}} \hat{\boldsymbol{x}}^{\mathrm{p}}$
式中Ek∈
$ M_{\mathrm{se}}\left(\hat{\boldsymbol{x}}_{\mathrm{k}}^{\mathrm{p}}, \hat{\boldsymbol{x}}_{\mathrm{ref}, i}\right)=\frac{1}{S^{2}}|| \hat{\boldsymbol{x}}_{\mathrm{k}}^{p}-\hat{\boldsymbol{x}}_{\mathrm{ref}, i}||_{2}^{2} $ (2)
式中:
1.2 加权残差稀疏模型当前块xk的残差R(xk)是块原始值与多个匹配块线性组合之间的差值,该差值表示为
$R\left( {{\mathit{\boldsymbol{x}}_{\rm{k}}}} \right) = {\mathit{\boldsymbol{x}}_{\rm{k}}} - \sum\limits_{1 \le i \le C} {{\mathit{\boldsymbol{\alpha }}_{{k_i}}}} {\mathit{\boldsymbol{v}}_{{k_i}}}.$
式中: αki为某匹配块的权重,将影响块匹配的预测精度.一般而言,匹配块如果和当前块相似性更高,那么该匹配块将赋予较大的权重;匹配块与当前块的相似性不高,赋予该匹配块一个较小的权重.因此,权重应与匹配块和当前块的均方误差值成反比关系.可以选取指数函数来计算不同匹配块的残差权重,由于原始块xk无法获取,我们利用前一次的重构结果
$\boldsymbol{\alpha}_{k_{i}}=\frac{\exp \left(-\operatorname{MSE}\left(\hat{\boldsymbol{x}}_{\mathrm{k}}^{\mathrm{p}}, \boldsymbol{v}_{k_{i}}\right) / h\right)}{\sum\nolimits_{1 \leq j \leq C} \exp \left(-\operatorname{MSE}\left(\hat{\boldsymbol{x}}_{\mathrm{k}}^{\mathrm{p}}, \boldsymbol{v}_{k_{j}}\right) / h\right)}.$
式中:h为一常数,MSE(·)为计算均方误差的公式.变换域内信号残差的稀疏性已经被广泛运用.因此,可采用DDWT对残差进行稀疏化.残差R(xk)的DDWT变换系数表示为
${{R}_{\Psi }}\left( {{\boldsymbol{x}}_{\text{k}}} \right)={{\mathit{\Psi} }^{\text{T}}}R\left( {{\boldsymbol{x}}_{\text{k}}} \right)={{\widetilde{\boldsymbol{x}}}_{\text{k}}}-\sum\limits_{1\le i\le c }{\boldsymbol{\alpha }_{{k_i}}}{{\widetilde{\boldsymbol{v}}}_{{{k}_{i}}}}.$
式中:Ψ为DDWT基,ΨT为其转置,并且
$F\left(\boldsymbol{x}_{\mathrm{k}}\right)=\boldsymbol{W}_{\mathrm{k}} \boldsymbol{R}_{\Psi}\left(\boldsymbol{x}_{\mathrm{k}}\right)$
式中:Wk为一个对角阵,对角线上元素为wk, 1, …, wk, s2,其余位置为0.wk, 1, …, wk, s2是残差系数的权重,每个值反映了对应系数为0的概率.利用对于F(xk)的稀疏化,并得到一个加权的l1范数问题
$\mathit{\boldsymbol{\hat x}} = \arg \mathop {\min }\limits_x \sum\limits_{1 \le k \le D} | |F\left( {{\mathit{\boldsymbol{E}}_{\rm{k}}}\mathit{\boldsymbol{x}}} \right)|{|_1}{\rm{s}}.{\rm{t}}.\mathit{\boldsymbol{y}} = \mathit{\boldsymbol{\varphi x}}.$
式中: xk= Ekx.通过求解上式可获得当前帧的重构
2 三步重构算法为控制计算复杂度和内存需求,测量端逐帧地采用基于BCS框架的随机测量进行视频信号的采集[5, 19].视频序列由若干图像组构成,每个图像组由一个关键帧和后面的一些非关键帧组成.关键帧使用相对较高的采样率进行测量,而非关键帧使用较低的采样率进行测量.接下来,着重介绍本文提出的基于SSIM和动态多模式匹配的视频压缩感知三步重构算法,所提算法的整体流程如图 1所示,主要包括三大步骤:首先对于序列中的每帧进行独立的重构;其次非关键帧利用第一步中重构的关键帧进行多假设预测的块匹配,在挑选匹配块总个数时进行动态分配;最后通过整体结构相似性的最大化,获取最终的重构结果.
Fig. 1
![点击查看原图](http://hit.alljournals.cn/html/hitxb_cn/2019/11/PIC/hebgydxxb-51-11-167-1.jpg)
步骤1:视频序列中每帧均通过帧内模型独立恢复.这一步采用基于多假设预测的残差重构算法,匹配块从每帧自身进行挑选.一般而言,采样率越高的帧重构质量越好,采样率越低的帧重构质量越差.受传统视频压缩编解码的启发,所提算法采用具有较高采样率的帧作为参考帧.
步骤2:重构非关键帧.非关键帧可从相邻的两参考帧获得匹配块,由于参考帧在步骤1后得到了较好的重构结果,不需要进一步处理.如前所述,对于每个非关键帧,应该考虑从前面参考帧和后面参考帧选取匹配块的个数.所提算法采用动态多模式挑选匹配块.基于每一非关键帧与前后两帧的距离决定从两参考帧挑选匹配块的个数,而不是固定每一帧从某参考帧中获取块个数.也就是,如果当前的非关键帧距离前向参考帧较近,从前向参考帧中将挑选更多的匹配块而从后向参考帧中挑选的匹配块将相应减少.
为降低计算复杂度,基于帧距离挑选匹配块总数量的机制,可简化为:假定从两个参考帧中挑选的总匹配块个数为M,不失一般性,M为偶数,可设置三组模式进行动态挑选:1、从前后两参考帧各挑选M/2块;2、从距离较近的参考帧挑选M/2+1块,从距离较远的参考帧挑选M/2-1块;3、从距离较近的参考帧挑选M/2+2块,从距离较远的参考帧挑选M/2-2块.在获得上述匹配块之后,对于1 2 3每种模式,计算每块与对应的匹配块线性组合之间残差.然后,根据残差系数为零的概率对残差系数进行加权,得到一个加权的l1最小化问题,根据Split Bregman迭代算法解决该问题,从而完成一帧的重构.例如,当M设置为10时,从前后两个参考帧中基于帧距离挑选匹配块的个数分配如表 1所示.
表 1
![点击查看表格内容](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/table-icon.gif)
前向 5 3 7 4 6
后向 5 7 3 6 4
表 1 基于帧距离的匹配块选择机制 Tab. 1 Matching patch selection mechanism according to frame distance
文献[18]的RRS算法挑选匹配块的模式较为固定,所提算法根据视频帧之间的时域相关性,采用了多种模式动态地挑选匹配块,两者的对比如图 2所示.
Fig. 2
![点击查看原图](http://hit.alljournals.cn/html/hitxb_cn/2019/11/PIC/hebgydxxb-51-11-167-2.jpg)
步骤3:挑选最终的重构结果.由于在某些情况下最小化均方误差并不会得到满意的效果,因此本步骤基于整体结构相似性从模式1~3中挑选最终的重构结果.为降低复杂度,设置一阈值T(0 < T < 1),可依据重构质量需求自动调节所提算法的复杂度.视频序列中的每个非关键帧按照模式1~3的顺序依次执行残差重构,并在每种模式重构完成后计算其与参考帧的SSIM,若某种模式下对应的SSIM大于T,则重构完成,该模式对应的重构结果为最终结果;否则,接着执行其余的模式;若三种模式下得到的SSIM均小于阈值T,则从三种模式中挑选较大的SSIM对应的重构结果为最终重构结果.
从大量实验可以分析得出,阈值T的合理设置决定了最终的重构质量以及算法的复杂度:若阈值过小,则最终的重构质量效果不好;相反若阈值过大,重构时间较长,算法复杂度较高,甚至在耗费很长的计算时间之后还是达不到高阈值情况下所期望的重构效果.一般情况下,阈值T在0.9左右时所提算法在重构效果和复杂度方面均能取得较好的性能,因此本文在实验结果部分设置阈值T=0.9进行所提算法的性能评估.在步骤3中挑选最终重构结果的详细算法流程图如图 3所示.
Fig. 3
![点击查看原图](http://hit.alljournals.cn/html/hitxb_cn/2019/11/PIC/hebgydxxb-51-11-167-3.jpg)
相比于现有固定挑选匹配块的模式,所提算法挑选匹配块的模式更加灵活,实现了多模式的动态挑选.同时,在基于整体结构相似性的考虑下,所提算法可以从总体上衡量每个视频帧的质量,进一步消除了块效应,在增加一定复杂度的情况下有效地提升了视频压缩感知的重构质量.
3 实验结果提出算法的实验仿真与分析,以验证所提算法的性能.以下的实验过程均在装有MATLAB R2018a软件的Lenovo Y430p计算机上进行,具体硬件配置如下:CPU型号为Intel酷睿i7 4710MQ、CPU主频为2.5 GHz、内存容量4 GB、显存容量2 GB,该计算机的操作系统是64位的Windows 8.1.
所提算法需要进行一些参数设置:搜索窗大小L×L、从前后两参考帧挑选匹配块的总个数C、重叠块的大小S2、每个匹配块权重的参数常量h、阈值T.基于算法复杂度的考虑,实验中的参数值选取如下:S2=8×8、C=10、h=8、T=0.9.由于所提算法的目标是从整体质量上改进视频重构的效果,本文选取SSIM作为算法性能的主要评价指标,同时辅以峰值信噪比(PSNR)进行指标分析.
结合式(2)与峰值信噪比PSNR的定义,可得
$P_{\mathrm{PSNR}}=20 \log _{10}\left(\frac{\mathrm{MAX}}{\sqrt{\operatorname{MSE}\left(\hat{x}_{\mathrm{k}}^{\mathrm{p}}, \hat{x}_{\mathrm{ref}, i}\right)}}\right)$
式中:MAX为常数,如果每个像素用8位表示,那么其值为255.从式中可看出PSNR与MSE成反比,而MSE表征了重构图像与原始图像的最小均方误差,其值越小表明重构效果越好.基于以上分析可得出PSNR值越大,均方误差意义上的重构质量越高.
为方便叙述,规定如下:文献[12]中的算法为多假设(MH)算法,文献[18]中的算法为RRS算法,本文所提算法(Proposed)主要与这两种代表性的算法作对比.
在进行匹配块的选取过程中,可发现当按照多种分配从前后两个参考帧中挑选匹配块时,不同分配会在SSIM与PSNR上产生区别,基于帧距离的匹配块选择机制的实验示例如图 4所示.图中的“前”“后”表示从前后两个参考帧挑选的匹配块的个数,例如“前4后6”表明当前重构块从前向参考帧中挑选4个匹配块、而从后向参考帧中挑选6个匹配块.从图中可看出,图 4(a)中的两曲线相差较大,图 4(b)中的两曲线基本重合,这表明两种挑选匹配块的配置导致重构PSNR基本一致,但在SSIM上却有较大的差别.一般而言,SSIM值越大,重构视频在整体质量会越好.因此,所提算法可基于帧距离的匹配块选择机制,利用多模式重构动态地挑选匹配块.
Fig. 4
![点击查看原图](http://hit.alljournals.cn/html/hitxb_cn/2019/11/PIC/hebgydxxb-51-11-167-4.jpg)
由于本文算法从MSE与SSIM两方面全面考虑了视频重构的质量,通过增加一定的复杂度进行了更为精细的预测,从理论上可以预期所提算法在PSNR与SSIM上均会有较好的表现;同时,在进行大量CIF格式视频序列实验的基础上,本文挑选了3个具有代表性的Foreman、Akiyo与Container视频序列在多种采样率下依次执行MH算法、RRS算法与本文所提算法,得出的实验结论基本一致.
在实验中,每种序列选取连续的17帧,其中第1、9、17选用较高的采样率并作为参考帧,其余的各帧为非关键帧.使用三种算法对应的重构结果如表 2、表 3所示.其中,表 2展示重构结果的PSNR平均值;表 3展示重构结果的SSIM平均值.对于两表中的联合采样率,逗号前为参考帧采样率,逗号后的为非关键帧的采样率.从表 2可以看出,在(0.4, 0.3)、(0.6, 0.4)、(0.7, 0.2)、(0.5, 0.4)4种联合采样率下,RRS算法在PSNR方面相对MH算法有所改进,在3个序列各采样率下提高大概1~2dB,而本文所提算法在PSNR方面基本与RRS算法基本持平,甚至在某些采样率下有较小的改善.由表 3可以看出,在整体结构相似性上,MH与RRS两种算法的性能基本一致,本文算法对于上述两种算法在多种采样率下具有较好的改进.所提算法在3个视频序列上的SSIM平均值相较于RRS算法提高大约10%.
表 2
![点击查看表格内容](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/table-icon.gif)
(0.4, 0.3) Foreman 38.32 38.75 39.01
Akiyo 40.42 43.03 43.04
Container 32.34 33.90 33.90
Average 37.02 38.56 38.65
(0.6, 0.4) Foreman 40.66 41.57 41.59
Akiyo 44.34 46.02 46.03
Container 35.41 38.01 38.05
Average 40.14 41.87 41.89
(0.7, 0.2) Foreman 37.34 39.01 39.34
Akiyo 43.96 44.50 44.61
Container 30.59 31.74 31.73
Average 37.30 38.41 38.56
(0.5, 0.4) Foreman 40.33 40.95 40.96
Akiyo 41.66 45.03 45.03
Container 34.67 36.06 36.06
Average 38.89 40.68 40.68
表 2 三种算法在不同视频序列上的PSNR/dB Tab. 2 PSNR of three algorithms on different sequences/dB
表 3
![点击查看表格内容](http://hit.alljournals.cn/html/hitxb_cn/2019/11/images/table-icon.gif)
(0.4, 0.3) Foreman 0.94 0.79 0.96
Akiyo 0.79 0.88 0.91
Container 0.75 0.79 0.90
Average 0.82 0.82 0.92
(0.6, 0.4) Foreman 0.90 0.74 0.97
Akiyo 0.84 0.99 0.99
Container 0.81 0.87 0.97
Average 0.85 0.86 0.98
(0.7, 0.2) Foreman 0.94 0.96 0.96
Akiyo 0.76 0.89 0.99
Container 0.83 0.73 0.84
Average 0.84 0.86 0.93
(0.5, 0.4) Foreman 0.93 0.76 0.97
Akiyo 0.83 0.87 0.99
Container 0.66 0.84 0.86
Average 0.80 0.82 0.94
表 3 三种算法在不同视频序列上的SSIM Tab. 3 SSIM of three algorithms on different sequences
本文算法与MH算法、RRS算法从原理上进行简单的比较,MH算法利用多假设的方法进行重构,只进行了一次重构;RRS重构分为两个阶段,第一阶段基于MH算法进行初步的重构,在第二阶段进一步进行重构.上述两种方法均采用分块的方法进行重构,并通过MSE度量重构质量,因此在PSNR质量上表现较好,但在SSIM度量上欠缺考虑.本文算法从MSE与SSIM两方面进行度量,因此在整体重构质量上有更好的表现.
为更加直观地比较所提算法的性能,依次挑选Akiyo序列在(0.5, 0.4)联合采样率下、Foreman序列在(0.5, 0.2)联合采样率下、Container在(0.4, 0.3)联合采样率下分别执行三种重构算法.图 5分别给出了三种重构算法的SSIM与PSNR对比图.由各图中可看出,所提算法在SSIM指标上远高于MH算法和RRS算法,也就是在视频重构的整体质量上,所提算法具有较好的效果;在PSNR指标方面,本文算法与RRS算法基本一致,都远高于MH算法.对于所选取的Foreman序列,在SSIM与PSNR指标方面也有同样的实验结果.综上所述,本文算法在保持较高PSNR质量的同时,对于SSIM质量具有较为显著的改善.
Fig. 5
![点击查看原图](http://hit.alljournals.cn/html/hitxb_cn/2019/11/PIC/hebgydxxb-51-11-167-5.jpg)
基于以上分析,可以得出本文所提算法相较于MH算法,无论从PSNR还是SSIM两方面均取得较大性能的提升,图像的重构质量得到明显的提升;与RRS算法相比较,虽然在PSNR上改进的效果不是特别明显,但是在SSIM方面却有较大的改善,可以得出从整体重构质量方面,本文算法相较于RRS也有一定程度上的改善.同非压缩感知系统相比,压缩感知系统的相对优势是测量端简单、重建端复杂,可将测量端的复杂度向重建端转移,适合于无线多媒体传感应用.一般而言,重建端具有充足的计算资源,其核心难题是如何提升重构质量.本文算法通过适当增加重建端的复杂度,在现有方法的基础上进一步提升了视频信号的重构质量.
提出算法的复杂度主要由挑选匹配块的过程所决定.所提算法在极端情况下才达到RRS算法的3倍复杂度,因此重构每帧的算法复杂度大概为O(N).基于前文所述实验平台的具体软硬件条件以及实验参数的设置,对于本文所使用的CIF格式的视频序列,所提算法重构每帧图像平均大约花费5~6分钟;相较于RRS与MH算法的3~4分钟,所提算法在增加一定算法复杂度的情况下,重构效果得到了改进.由于硬件并行计算的发展,上述复杂的计算问题将得到一定程度的解决.
4 结论现有的压缩感知重构算法基于均方误差的基础上,进行重构,存在一定的弊端.本文提出了一种基于动态多模式挑选匹配块的视频压缩感知重构算法,在迭代重构中有效融合了均方误差与结构相似准则,通过多模式视频重构获取最终的重构结果.所提算法充分利用了视频帧的时空相关性,提高了重构视频的整体质量,在PSNR与SSIM性能指标方面相比于当前代表性的算法均有所改善,无论在重构图像的细节和整体质量上都有提升.但本文所提算法复杂度有一定提升,对计算硬件要求较高.
参考文献
[1] Donoho D L. Compressed sensing[J]. IEEE Transactions on Information Theory, 2006, 52(4): 1289. DOI:10.1109/TIT.2006.871582
[2] ZHAO Yingxin, LIU Zhiyang, WANG Yuanyuan, et al. Sparse coding algorithm with negentropy and weighted l1-norm for signal reconstruction[J]. Entropy, 2017, 19(11): 599. DOI:10.3390/e19110599
[3] Prades-Nebot J, Ma Y, Huang T. Distributed video coding using compressive sampling[C]//Picture Coding Symposium. USA: IEEE, 2009: 1. DOI: 10.1109/PCS.2009.5167431
[4] LU Gan. Block compressed sensing of natural images[C]//15th International Conference on Digital Signal Processing. Welsh: IEEE, 2007: 403. DOI: 10.1109/ICDSP.2007.4288604
[5] MUN S, FOWLER J E. Block compressed sensing of images using directional transforms[C]//IEEE International Conference on Image Processing (ICIP). Egypt: IEEE, 2009: 3021. DOI: 10.1109/ICIP.2009.5414429
[6] Sankaranarayanan A C, Studer C, Baraniuk R G. CS-MUVI: Video compressive sensing for spatial-multiplexing cameras[C]//IEEE International Conference on Computational Photography (ICCP). USA: IEEE, 2012: 3021. DOI: 10.1109/ICCPhot.2012.6215212
[7] Park J Y, Wakin M B. A multiscale framework for compressive sensing of video[C]//IEEE Picture Coding Symposium. USA: IEEE, 2009: 1. DOI: 10.1109/PCS.2009.5167440
[8] Mun S, Fowler J E. Residual reconstruction for block-based com pressed sensing of video[C]//IEEE Data Compression Conference. USA: IEEE, 2011: 183. DOI: 10.1109/DCC.2011.25
[9] Vaswani N. LS-CS-residual (LS-CS): Compressive sensing on least squares residual[J]. IEEE Transactions on Signal Processing, 2010, 58(8): 4108. DOI:10.1109/TSP.2010.2048105
[10] Jung H, Sung K, Nayak K S, et al. A general compressed sensing framework for high resolution dynamic MRI[J]. Magnetic resonance in medicine, 2010, 61(1): 103. DOI:10.1002/mrm.21757
[11] YANG Jianbo, YUAN Xin, LIAO Xuejun, et al. Video compressive sensing using Gaussian mixture models[J]. IEEE Transactions on Image Processing, 2014, 23(11): 4863. DOI:10.1109/TIP.2014.2344294
[12] TRAMEL E W, FOWLER J E. Video compressed sensing with multihypothesis[C]//IEEE Data Compression Conference. USA: IEEE, 2011: 193. DOI: 10.1109/DCC.2011.26
[13] Chen C, Tramel E W, Fowler J E. Compressed-sensing recovery of images and video using multihypothesis predictions[C]//45th Asilomar Conference on Signals, Systems and Computers (ASILOMAR). Pacific: IEEE, 2012: 1193. DOI: 10.1109/ACSSC.2011.6190204
[14] KUO Yonghong, WU Kai, CHEN Jian. A scheme for distributed compressed video sensing based on hypothesis set optimization techniques[J]. Multidimensional Systems & Signal Processing, 2017, 28(1): 1. DOI:10.1007/s11045-015-0337-4
[15] CHEN Jian, CHEN Yunzheng, DONG Qin, et al. An elastic net-based hybrid hypothesis method for compressed video sensing[J]. Multimedia Tools and Applications, 2015, 74(6): 2085. DOI:10.1007/s11042-013-1743-y
[16] 阔永红, 王薷泉, 陈健. 基于多参考帧假设优化的压缩感知重构算法[J]. 通信学报, 2017, 38(12): 1.
KUO Yonghong, WANG Ruquan, CHEN Jian. Reconstruction algorithm based on multi-reference frames hypothesis optimization for compressive sensing[J]. Journal on Communications, 2017, 38(12): 1. DOI:10.11959/j.issn.1000-436x.2017297
[17] 杨春玲, 戴超. 视频压缩感知中基于菱形快速搜索的双匹配区域预测[J]. 华南理工大学学报(自然科学版), 2018, 46(3): 55.
YANG Chunling, DAI Chao. A prediction scheme based on fast diamond search and two match regions in compressed video sensing[J]. Journal of South China University of Technology (Natural Science Edition), 2018, 46(3): 55. DOI:10.3969/j.issn.1000-565X.2018.03.008
[18] ZHAO Chen, Ma Siwei, Zhang Jian, et al. Video compressive sensing reconstruction via reweighted residual sparsity[J]. IEEE Transactions on Circuits and Systems for Video Technology, 2017, 27(6): 1182. DOI:10.1109/TCSVT.2016.2527181
[19] Fowler J E. Block-based compressed sensing of images and video[J]. Foundation Trends Signal Processing, 2010, 4(4): 297. DOI:10.1561/2000000033