摘要: 感知矩阵的构造是压缩感知从理论走向工程应用的关键技术之一. 由于托普利兹感知矩阵能够支持快速算法且与离散卷积运算相对应, 因此具有重要的研究意义. 然而常用的随机托普利兹感知矩阵因其元素的不确定性, 使得它在实际应用中受到了诸多约束, 例如内存消耗较高和不易于硬件加载. 基于此, 本文结合双极性混沌序列的内在确定性和托普利兹矩阵的优点, 提出了基于双极性混沌序列的托普利兹块状感知矩阵. 具体地, 首先介绍了双极性混沌序列的产生并分析了它的统计特性. 其次, 构造了双极性托普利兹块状混沌感知矩阵, 从相关性方面证明了新建的感知矩阵具有近乎最优的理论保证, 并同时证实了它满足约束等距条件. 最后, 研究了该感知矩阵针对一维信号和图像的压缩测量效果, 并与典型感知矩阵进行了对比. 结果表明, 提出的感知矩阵对这些测试信号具有更好的测量效果, 而且它在内存开销、计算复杂度和硬件实现等方面均具有明显的优势. 特别地, 该感知矩阵非常适用于多输入-单输出线性时不变系统的压缩感知测量问题.
关键词: 压缩感知 /
混沌序列 /
托普利兹矩阵 /
相关性 English Abstract Toeplitz-block sensing matrix based on bipolar chaotic sequence Gan Hong-Ping 1 ,Zhang Tao 2 ,Hua Yi 3 ,Shu Jun 4 ,He Li-Jun 1 1.School of Software, Northwestern Polytechnical University, Xi’an 710072, China 2.Department of Electronic Engineering, Tsinghua University, Beijing 100084, China 3.School of Aeronautics, Northwestern Polytechnical University, Xi’an 710072, China 4.College of Electronics and Information Engineering, Sichuan University, Chengdu 610065, China Fund Project: Project supported by the National Key R&D Program of China (Grant No. 2017YFB0502700), the Fundamental Research Fund for the Central Universities, China (Grant No. G2020KY05110), the Major Program of the National Natural Science Foundation of China (Grant No. 61490693), the Science and Technology Project of Taicang, China (Grant No. TC2020JC07), and the China Postdoctoral Science Foundation (Grant No. 2020M680562) Received Date: 04 September 2020Accepted Date: 26 September 2020Available Online: 16 January 2021Published Online: 05 February 2021 Abstract: Compressed sensing is a revolutionary signal processing technique, which allows the signals of interest to be acquired at a sub-Nyquist rate, meanwhile still permitting the signals from highly incomplete measurements to be reconstructed perfectly. As is well known, the construction of sensing matrix is one of the key technologies to promote compressed sensing from theory to application. Because the Toeplitz sensing matrix can support fast algorithm and corresponds to discrete convolution operation, it has essential research significance. However, the conventional random Toeplitz sensing matrix, due to the uncertainty of its elements, is subject to many limitations in practical applications, such as high memory consumption and difficulty of hardware implementation. To avoid these limitations, we propose a bipolar Toeplitz block-based chaotic sensing matrix (Bi-TpCM) by combining the intrinsic advantages of Toeplitz matrix and bipolar chaotic sequence. Firstly, the generation of bipolar chaotic sequence is introduced and its statistical characteristics are analyzed, showing that the generated bipolar chaotic sequence is an independent and identically distributed Rademacher sequence, which makes it possible to construct the sensing matrix. Secondly, the proposed Bi-TpCM is constructed, and it is proved that Bi-TpCM has almost optimal theoretical guarantees in terms of the coherence, and also satisfies the restricted isometry condition. Finally, the measurement performances on one-dimensional signals and images by using the proposed Bi-TpCM are investigated and compared with those of its counterparts, including random matrix, random Toeplitz matrix, real-valued chaotic matrix, and chaotic circulant sensing matrix. The results show that Bi-TpCM not only has better performance for these testing signals, but also possesses considerable advantages in terms of the memory cost, computational complexity, and hardware realization. In particular, the proposed Bi-TpCM is extremely suitable for the compressed sensing measurement of linear time-invariant (LTI) systems with multiple inputs and single output, such as the joint parameter and time-delay estimation for finite impulse response. Moreover, the construction framework of the proposed Bi-TpCM can be extended to different chaotic systems, such as Logistic or Cat chaotic systems, and it is also possible for the proposed Bi-TpCM to derive the Hankel blocks, additional stacking of blocks, partial circulant blocks sensing matrices. With these block-based sensing architectures, we can more easily implement compressed sensing for various compressed measurement problems of LTI systems. Keywords: compressed sensing /chaotic sequence /Toeplitz matrix /coherence 全文HTML --> --> --> 1.引 言 近年来, Candès等[1 ] 提出的压缩感知(compressed sensing, CS)理论为数据获取与重建提供了一种全新的策略. 该理论创造性地将待采样信号的频域带宽特性扩展到更为广泛的变换域稀疏特性, 以此利用满足一定特性的感知矩阵对信号进行不相关测量, 从而突破了香农-奈奎斯特采样理论的极限. 换句话说, 压缩感知打破了从信号到信息域的壁垒, 实现了对信息直接感知和处理. 因此, 它一经提出便成为当今世界最为热门的课题之一, 并被广泛地应用到众多研究领域, 如压缩成像[2 ] 、计算机科学[3 ] 和数据安全[4 ] 等. 为准确描述CS的数学模型, 令${{x}} = \{x_i\}_{i}^{n} \in \mathbb{R}^{n} (i = 1, 2, \cdots, n)$ 表示待测量的目标信号, 并假定该信号满足以下两个条件之一: 1) x 是稀疏度为$ s (s < n) $ 的稀疏信号, 即有 2) x 可以等价表示为${{\varPsi}} {{\eta}}$ 且$ {{\eta}} $ 是稀疏度为s 的稀疏信号, 也就是说, ${{x}} = {{\varPsi}} {{\eta}}$ , 其中${{\varPsi}}$ 代表某个变换域或稀疏域. 那么可以通过特殊的信息感知算子$ {{A}}:\mathbb{R}^{n}\rightarrow\mathbb{R}^{m} $ 实现对该信号降维信息感知与重构. 数学上, CS的线性测量过程可表示为 式中$ {{y}} \in \mathbb{R}^{m} $ 表示测量样本数据, $ {{A}}\in \mathbb{R}^{m \times n} $ 又被称为感知矩阵. 记$ \varpi = {m}/{n}\;(m \ll n) $ 为采样率. 由于存在数据降维过程$ \mathbb{R}^{n}\rightarrow \mathbb{R}^{m} $ , 因此从y 中恢复信号x 似乎是不可能的. 但是, 只要A 能够保证在低维空间$ \mathbb{R}^m $ 中有且只有一个y 与信号x 建立起$ {{y}} = {{A}} {{x}} $ 的关系, 那么便可借助一定的恢复算法将x 精确重构出来. 直观上, 重建信号x 最简单的方法就是优化$ \ell_0 $ 范数问题: 但遗憾的是, $ {\ell_{0}}(\cdot) $ 是一个极其特殊的函数, 导致直接求解(1 )式是一个NP-hard问题. 为解决该问题, CS研究者提出了不同的近似策略来平滑$ {\ell_{0}} $ 函数, 如高斯-牛顿平滑$ {\ell_{0}} $ 算法[5 ] . 除此之外, 贪婪算法也常被用来稀疏逼近$ \ell_0 $ 问题的最优解从而得到重构信号$ {\hat{{x}}} $ , 如正交匹配追踪(orthogonal matching pursuit, OMP)[6 ] . 值得注意的是, 当A 能够做到降维信息保真时, 那么可以将$ \ell_0 $ 问题转化为$ \ell_1 $ 范数稀疏求解问题, 显然, 上述优化问题的优化目标$ \ell_1 $ 范数是一个凸函数. 因此, 可通过已有的优化算法对其进行高效求解, 例如基追踪(basis pursuit, BP)[7 ] . 从上述分析可知, 亟需解决以下重要问题: 如何设计A 才能做到降维信息保真, 即A 满足何种性质时才能保证信号x 从高维空间$ \mathbb{R}^{n} $ 降维到$ \mathbb{R}^{m} $ 时使$ {{y}} = {{A}}{{x}} $ 建立起唯一的对应关系. Candès[8 ] 证明了当感知矩阵满足约束等距性(restricted isometry property, RIP)时, A 就能够保证所有稀疏度为s 的信号$ {{x}} \in \Sigma_s $ 降维后的唯一性[8 ] , 其中, $\varSigma_s$ 表示稀疏度为s 的信号的集合.定义1 [8 ] 若矩阵A 能够使 成立, 则称A 满足$ (s, \delta_s) $ -RIP. 满足(3 )式的最小常数$ \delta_s $ 被称为A 的s 阶约束等距常数(restricted isometry constant, RIC). 当RIC越小时, 那么矩阵的约束等距性越好. 实际上, $ (s, \delta_s) $ -RIP 能够确保A 的所有大小为$ m \times s $ 的子矩阵均类似于正交矩阵, 从而使得x 的“长度”得以保持, 以此实现信息的保真, 即$ \|{{Ax}}\|_{2}^2 = \|{{x}}\|_{2}^2 $ . RIP为信号的降维信息保真提供了优雅的几何解释. 然而, 验证A 是否满足RIP是一个NP-hard问题, 即必须检验A 中的所有子矩阵都满足(3 )式. 因此, 有必要去寻求更易于计算且能够保证唯一性的其他标准. 其中, 矩阵的相关性(coherence)就是这样的一个标准.定义2 [9 ] 给定一个矩阵A , 它的自相关系数$ \mu({{A}}) $ 等于A 中两两不相等列的最大内积: 其中$ {{a}}_i, {{a}}_k $ 分别表示矩阵A 的第$ i, k $ 列. 可以证明$\sqrt{\dfrac {n-m}{m(n-1)}} \leqslant \mu({{{A}}}) \leqslant 1$ , 其中下界$\sqrt{\dfrac {n\!-\!m}{m(n\!-\!1)}}$ 又被称为Welch界. 特别地, 如果$ m\! \ll\! n $ , 那么Welch界将收敛到${1}/{\sqrt{m}}$ . 实际上, 通过Ger?hgorin圆盘定理(详见附录A )可将$ \mu({{A}}) $ 和RIP联系起来.引理1 假定矩阵A 具有单位$ \ell_2 $ 范数的列向量, 其自相关系数$ \mu = \mu({{A}}) $ , 那么A 满足$ (s, \delta_s) $ -RIP且其约束等距常数为$\delta_s\leqslant(s-1)\mu$ . 在CS理论诞生之初, 由于随机矩阵(例: 高斯或伯努利随机矩阵)易满足RIP且具有普适性, 因此常被用作感知矩阵. 但随机感知矩阵不仅需要巨量的内存空间、高复杂度的运算, 而且也难以加载到硬件电路中, 这潜在地束缚了它们的应用. 为克服这些缺点, CS研究人员朝着下述三大方向做了尝试. 第一, 通过优化策略降低感知矩阵对硬件电路实现的要求, 其中最常用的方式是将矩阵元素二元化, 例如, 基于二分图(周长大于4)的双极性感知矩阵[10 ] . 但应当指出的是, 当信号的维数n 增长时, 这类矩阵的相关性可能会随之增加, 进而影响到它们的感知效率. 第二, 设计存储要求低且对硬件友好的确定性感知矩阵, 例如, Ansari正则单位感知矩阵[11 ] . 应当注意的是, 尽管确定性感知矩阵能够在特定的场合良好工作, 但它们通常不具有对感知场景的普适性, 这大大制约了它们的实际应用. 第三, 构建与实际系统的测量机制相对应的感知矩阵. 这当中最吸引人的是托普利兹(Toeplitz)和循环(Circulant)感知矩阵, 例如托普利兹随机感知矩阵[12 ] . 该类矩阵被广泛应用于解决线性时不变(linear time invariant, LTI)系统的辨识问题, 如稀疏信道估计问题. 但令人遗憾的是, 托普利兹随机感知矩阵依旧没有摆脱随机元素, 这会限制它们的推广和拓展. 显然, 为推动CS从理论走向更多实际应用场景, 有必要融合以上3个方向的优势, 并规避它们的弊端. 一方面, 从数据获取的角度来说, 人们希望构建出低内存消耗、低计算复杂度, 具有普适性且测量效率优良的感知矩阵. 另一方面, 从硬件实现的角度来看, 构造的感知矩阵应当对应于可行的确定性硬件架构, 如LTI系统. 基于这两方面的考虑, 可探索一些新的机制来生成确定性感知矩阵, 以便减轻在数据感知和硬件实现等方面的负担. 实际上, 用混沌系统生成的混沌序列来构建感知矩阵可以很好地解决上述两个维度的问题. 作为最早的启发性工作, Yu等[13 ] 提出利用Logistic混沌序列来构造感知矩阵, 并通过一个简单的组合问题证明了该混沌算子满足RIP, 这也从根本上保证了它的采样效率. 随后, Gan等[14 ] 设计了Chebysehv混沌感知矩阵, 并通过Johnson-Lindenstrauss引理证明了该混沌感知算子具有与随机矩阵类似的感知性能. 特别地, 郭静波等结合混沌序列和循环矩阵的优点, 开发了Cat混沌循环感知矩阵[15 ] , 并将其用于二进制信号的信息感知与重构[16 ] . 构造这些感知矩阵的一个关键操作是利用抽样操作将实值混沌序列变成独立同分布序列, 以保证这些实值混沌序列的独立性, 进而使其构造的混沌感知矩阵具有良好的感知效率. 然而, 抽样操作需要较为复杂的运算, 这在一定程度上限制了它们的实际应用. 本文将结合双极性混沌序列(元素仅有–1和1)的内在确定性和托普利兹矩阵的优点, 提出基于双极性混沌序列的托普利兹块状感知矩阵. 它不仅直接保留了托普利兹块状感知矩阵的优势, 而且可以继承双极性混沌序列的天然优点. 特别地, 本文提出的构造方法只需要生成双极性混沌序列, 毋须对实值混沌序列进行抽样操作. 另外, 使用托普利兹块状感知矩阵测量数据实际上是对LTI系统的多输入信号做离散卷积, 能够解决众多与卷积运算相关的理论与应用问题, 而且可以支持快速算法. 因此, 新建的托普利兹块状感知矩阵特别适用于多输入-单输出LTI系统的压缩感知测量问题, 例如, 多输入-单输出有限脉冲响应系统的参数与时滞估计问题[17 ] . 换句话说, 它具有易于数字电路实现的潜在优势. 本文的主要贡献有: 1) 提出了一种基于对称阈值的双极性混沌序列的生成方法, 并分析了该双极性混沌序列的统计性质; 2) 利用双极性混沌序列构建了双极性托普利兹块状感知矩阵, 并通过相关性和约束等距条件证明了构造的感知矩阵具有优良的感知效率; 3) 提出的构建框架可推广至不同混沌系统(如Logistic或Cat混沌系统), 而且也可以派生出Hankel块、循环块以及堆积块矩阵, 进而推动将压缩感知应用到更多LTI系统的压缩测量问题中. 此外, 通过对一维稀疏信号和图像进行数值仿真测试, 验证了新建的托普利兹块状混沌感知矩阵与经典的感知矩阵相比在采样效率和恢复效果等方面具有更好的性能. 本文的内容安排如下: 第2 节给出双极性混沌序列的生成方法, 并分析其统计特性; 随后, 在第3 节中介绍双极性托普利兹块状混沌感知矩阵的构造和性能分析; 第4 节通过实验仿真与其他传统感知矩阵进行比较; 在第5 节得出相关结论.2.双极性混沌序列及其统计特性 22.1.双极性混沌序列的产生 -->2.1.双极性混沌序列的产生 回顾一个简单$ \alpha $ 阶一维映射函数, 其定义为 式中$z_j = \tau^j(z_0) \in {{I}} = [-1, 1]$ , $ z_0 $ 表示初始值. 当$ 1 < \alpha \in \mathbb{N^+} $ 且$-1 \leqslant z_0 \leqslant 1$ 时, (5 )式就是著名的切比雪夫(Chebyshev)混沌系统, 其连续不变测度为$\rho^\ast(z){\rm{d}}z = \dfrac {{\rm{d}}z} {(\pi\sqrt{1-z^2})}$ . 通过对(5 )式反复迭代, 就可以产生一组切比雪夫实值混沌序列$ \{{\tau^j(z_0)}\}_{j = 0}^{\infty} $ , 即$ \{{z_j}\}_{j = 0}^{\infty} $ . 随后, 为该混沌实值序列$ \{{z_j}\}_{j = 0}^{\infty} $ 引入切比雪夫对称混沌阈值函数, 即 其中$ T(z) $ 的互补函数为 结合(5 )式和(6 )式, 便可得到一组双极性切比雪夫混沌序列$\{T({\tau^j(z_0)})\}_{j = 0}^{\infty}$ , 也就是$ \{T({z_j})\}_{j = 0}^{\infty} $ . 在实际应用中, 通过一个比较器和一些简单的移位寄存器就可以很容易地硬件生成双极性混沌序列[18 ] . 值得注意的是, 双极性混沌序列$\{T({\tau^j(z_0)})\}_{j = 0}^{\infty}$ 的统计均值可通过下式求得: 代入双极性切比雪夫混沌系统的连续不变测度可得${\langle T \rangle}_{\tau} = 1/ 2$ . 22.2.双极性混沌序列的统计特性 -->2.2.双极性混沌序列的统计特性 在分析双极性切比雪夫混沌序列$\{T({\tau^j} \!(z_0)\!)\}_{j = 0}^{\infty}$ 统计特性前, 需先回顾1个关于Perron-Frobenius算子的引理.引理2 [19 ] Perron-Frobenius算子$ P_{\tau} $ 作用于关于$ \tau(z) $ 的有界变差函数$ H(z) $ 时满足 其中$ g_i(z) = \tau^{-1}_i(z) $ . 值得注意的是, 连续不变测度$\rho^\ast(z) {\rm{d}}z$ 满足等式$ P_{\tau} \rho^\ast(z) = \rho^\ast(z) $ , 该式又被称为Perron-Frobenius等式. 结合(6 )式的混沌阈值函数$ T(z) $ 和引理2, 可以很容易得到 在上述基础之上, 即可分析出$ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 的高阶相关系数. 令$ \{T_i(\cdot)\}_{i = 1}^{k} $ 表示k 个双极性混沌阈值函数的组合. 对于k 个二元变量生成事件, $t_1,\;t_2,\;\cdots,\;t_k$ $ (t_i\in \{-1, 1\}) $ 在序列$ \{T_i({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 发生的概率为 其中, $l_i \geqslant 0\;(1\leqslant i \leqslant k-1)$ . 因此, 对于一组$ \{T_i(\cdot)\}_{i = 1}^{k} $ , 它的高阶相关系数可以定义为$ \forall l_i \leqslant 0, $ 引理3 对于一组切比雪夫混沌阈值函数$ \{T_j(\cdot)\}_{j = 1}^{k} $ , 当$l_{j-1} \geqslant 1$ 时, 可以得到证明1 根据引理2, 将$ P_{\tau} $ 算子作用于每一个切比雪夫混沌阈值函数$ {T_j(\cdot)} $ 的高阶相关系数, 并结合(7 )式得到 重复以上步骤, 得证引理3. 设$ {{W}}_k = W_0 W_1\cdots W_{k-1} $ 代表一个由k 位双极性变量组成的任意数字串, 其中$W_j \in \{1, -1\} ( j = {0, 1, \cdots, k-1})$ . 显然, $ {{W}}_k $ 有2k 种可能性. 令${{w}}^{(h)}_k = {w}^{(h)}_0 {w}^{(h)}_1 \cdots$ $ {w}^{(h)}_{k-1} $ 表示第$h$ 个数字串, 其中$ w^{(h)}_j \in \{-1, 1\} $ . 对于切比雪夫混沌阈值函数, 可以引进一个二元变量 其中$ \overline{T}(z) = 1 - {T}(z) $ 和$ \overline{w}_j^{(h)} = 1- {w^{(h)}_j} $ . 因此, 事件$ {{w}}^{(h)}_k $ 在双极性混沌序列$ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 中发生的概率为定理1 对于一组切比雪夫混沌阈值函数$ \{T_j(\cdot)\}_{j = 1}^{k} $ , 其生成的双极性混沌序列满足证明2 根据引理3可知 式中$ \beta $ 代表$ \{w_j^{(h)}\}_{j = 0}^{k-1} $ 中元素1的总个数. 将$\langle T \rangle_{\tau} = 1/2$ 代入(9 )式中, 可以得到$ {\rm{Pro}}({{w}}^{(h)}_k;\; T) = 1/{2^k}. $ 定理1验证了双极性切比雪夫混沌序列$ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 是一个独立同分布的Rademacher序列(若一个序列的元素是按概率$1/2$ 取值$ \pm 1 $ , 那么该序列被称为Rademacher序列). 更多关于双极性混沌序列的特性可参见文献[18 , 20 ]及相关资料.3.双极性托普利兹块状混沌感知矩阵 23.1.Bi-TpCM的构造 -->3.1.Bi-TpCM的构造 利用双极性切比雪夫混沌序列$ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 可以构造出双极性托普利兹块状混沌感知矩阵(bipolar Toeplitz-block chaotic sensing matrix, Bi-TpCM). 具体来说, 它由b 个大小为$ m \times d $ 的托普利兹混沌矩阵构成, 即${{A}}\! =\! [{{A}}^{(1)} \; {{A}}^{(2)} \; \cdots \; {{A}}^{(b)}] \in \mathbb{R}^{m \times n}$ , 式中$ {{A}}^{(1)} $ 为$ {{A}}^{(i)}(i = 2, \cdots, b) $ 的定义与(10 )式类似, 即$ {{A}}^{(i)} $ 的元素为双极性混沌序列$ \{T{(z_j)}\}_{j = {(m+d-1)\times{(i-1)}}}^{(m+d-2)i+(i-1)} $ 确定. 这里将$ {{A}}^{(i)} $ 的元素简记为$ \{a^{i}_j\}_{j = 0}^{m+d-2} $ . 显然, 只需要长度为$ b(m+d-1) $ 的双极性切比雪夫混沌序列$ \{T{(z_j)}\}_{j = 0}^{(m+d-2)b+(b-1)} $ 便可完全确定Bi-TpCM. (10 )式中标量$1/ {\sqrt{m}}$ 用于归一化A 的列, 以保证降维过程$ \mathbb{R}^n \rightarrow \mathbb{R}^m $ 中原信号x 与测量样本数据y 的能量保持一致. 值得注意的是, 通过形如(10 )式的构造方式不仅可以构造出托普利兹块状矩阵, 还能派生出Hankel块、循环块以及堆积块矩阵, 进而推动将压缩感知应用到更多LTI系统的压缩测量问题中. 由于分析这些矩阵性能的方法与托普利兹块状矩阵类似且后者对应于多输入-单输出LTI系统的压缩感知测量问题, 故本文仅分析托普利兹块状感知矩阵. 23.2.Bi-TpCM的性能分析 -->3.2.Bi-TpCM的性能分析 根据2.2 节的分析, $ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 是一个由元素$ \pm 1 $ 组成的独立同分布Rademacher序列. 因此, 可推出关于它构造的Bi-TpCM的自相关系数和约束等距条件.定理2 当$b \geqslant 2$ 时, 大小为$m \times n\; (n = bd)$ 的双极性托普利兹块状混沌感知矩阵A 的自相关系数$ \mu({{{A}}}) $ 将以超过$\left(1-{{4}/{n}}\right)$ 的概率满足证明3 由定义2可知, Bi-TpCM的自相关系数是由其托普利兹子块矩阵决定的, 也就是说 式中$ \mu({{{A}}^{(i)}}) $ 表示$ {{A}}^{(i)} $ 的自相关系数, $ \parallel \cdot \parallel_{\max} $ 代表矩阵的最大范数. 根据文献[12 ]的定理4, 可以推出双极性托普利兹子块矩阵$ {{A}}^{(i)} $ 满足 式中$ \xi \in (0, 1) $ . 因此可以推出 为求出$\mathop {\max }\limits_{i,k = 1, \cdots ,\;b;\;i \ne k} \parallel {{{A}}^{(i)}}^{\rm T} {{A}}^{(k)} \parallel_{\max}$ 的边界, 令${{Q}}^{i, k} = {{{A}}^{(i)}}^{\rm T} {{A}}^{(k)}(i \neq k)$ . 因此它的第$ (v, l) $ 个元素可表示为 式中$\tilde{a}_q \!=\! a^{i}_{d+q-v} a^{k}_{d+q-l}$ . 由于$ {{A}}^{(i)} $ 的元素$ \{a^{i}_j\}_{j = 0}^{m+d-2} $ 实际上是独立同分布的Rademacher序列, 因此, 可以将Hoeffding不等式引入(14 )式, 进而得到 结合$ {{Q}}^{i, k} $ 有$ d^2 $ 个不同的元素, 且$\parallel {{{A}}^{(i)}}^{\rm T} {{A}}^{(k)} \parallel_{\max}$ 存在$\dfrac{b(b-1)}{2}$ 个组合方式, 故有 根据(13 )式和(15 )式且$ b\geqslant2 $ , 可知 将$\xi = \sqrt {\dfrac {12\log {(bd)}}{m}}$ 代入(16 )式, 定理2得证. 当$ b = 1 $ 时, Bi-TpCM将完全退化为一个双极性托普利兹感知矩阵, 文献[12 ]已分析了这类感知矩阵的性能, 这里不再赘述. 从定理2可知, Bi-TpCM的自相关系数$ \mu({{{A}}}) $ 的上限为$\mathcal{O}\Big(\sqrt {\dfrac {\log{n}}{m}}\Big)$ , 这与感知矩阵自相关系数的Welch界只差一个标量$ \log n $ . 定理2也证实了Bi-TpCM在自相关性方面接近于最优理论保证. 结合引理1和定理2, 可以推出Bi-TpCM满足约束等距条件, 其约束等距常数$ \delta_s $ 不超过$\sqrt { \dfrac {12 \log{n}}{m}} (s-1)$ . 除此之外, 由于双极性托普利兹块状混沌感知矩阵本质上是一个Rademacher矩阵, 因此它必然满足度量集中(concentration of measure)不等式. 结合Richard等[21 ] 关于RIP的工作, 可以有以下推论.推论1 对于一个大小为$ m \times n $ 的双极性托普利兹块状混沌感知矩阵A , 当$m \geqslant c_ {0} s \log\left( {{n}/{s}} \right)$ 时, 它将以超过$ 1-2 \exp^{-c_1 m} $ 的概率满足RIP, 其中$ c_0 $ 和$ c_1 $ 为两个常数. 推论1证实了提出的Bi-TpCM在约束等距条件下均具有良好的理论保证. 为节约篇幅, 这里省略了推论1的详细证明过程. 读者可以根据文献[21 ]的工作, 推出相应的证明步骤. 在此基础上, 可以将以上结论推广至所有混沌系统.推论2 任意能够产生混沌Rademacher序列的混沌系统均能够构造出Bi-TpCM, 并且构建的Bi-TpCM的自相关系数为$\mu({{{A}}}) = \sqrt { \dfrac {12 \log{n}}{m}}$ , 且它能够以接近于 1 的概率满足约束等距条件. 根据以上分析可知, 本文提出的构造框架不仅适用于切比雪夫混沌系统, 还可以推广至不同的混沌系统, 如Logistic或Cat混沌系统, 并且它们对应的Bi-TpCM的采样效率能够接近于最优. 实际上, 将Ger?hgorin圆盘定理应用于Bi-TpCM的格拉姆(Gram)矩阵, 可以得出以下推论.推论3 对于一个大小为$ m \times n $ 的Bi-TpCM, 令$ G = {{A}}^{\rm T}{{A}}$ , 其中${{A}}^{\rm T}$ 表示A 的转置, 即$ G $ 为A 的格拉姆矩阵. 若存在两个正常数$ \delta_d $ 和$ \delta_o $ , $\delta_d + \delta_o = \delta_s \in (0, 1)$ , 使得$ G $ 的每一个对角元素$ G_{i, i} $ 满足$ |G_{i, i}-1 | < \delta_d $ , 且非负对角元素满足$ G_{i, k} (i \neq k) $ 满足$|G_{i, k}| < {\delta_o}/{s}$ , 那么该矩阵满足$ (s, \delta_s) $ -RIP. 推论3表明了可以通过数值实验来验证构造的Bi-TpCM是否满足约束等距条件. 在仿真分析的小节中, 会证实Bi-TpCM的确具有RIP. 23.3.Bi-TpCM vs. 传统感知矩阵 -->3.3.Bi-TpCM vs. 传统感知矩阵 为了更好地评估Bi-TpCM性能, 表1 将Bi-TpCM和其他常用感知矩阵做了一个全面比较. 传统的常用感知矩阵包括Den-RgM, Den-Bol, Den-CbM, Top-Rad和Cir-CaM. 其中, Den-RgM和Den-Bol分别代表高斯和伯努利感知矩阵; Den-CbM是Gan等[14 ] 利用Chebyshev实值混沌序列直接构造出的混沌感知矩阵; Top-Rad代表随机双极性序列构建的双极性托普利兹随机感知矩阵[12 ] ; Cir-CaM是Guo等[15 ] 开发的Cat混沌循环感知矩阵. 感知矩阵 特征性质 RIP 普适性 元素性 内存消耗 支持快速计算 对应测量系统 Den-RgM 满足 Yes 随机 ${\cal{O}}(B \times mn)$/次 No — Den-Bol 满足 Yes 随机 ${\cal{O}}(mn)$/次 No — Den-CbM 满足 Yes 确定 ${\cal{O}}(B \times mn)$ No — Top-Rad 满足 Yes 随机 ${\cal{O}}(m+n-1)$/次 支持 单输入单输出LTI Cir-CaM 满足 Yes 确定 ${\cal{O}}(B \times n)$ 支持 单输入单输出LTI Bi-TpCM 满足 Yes 确定 ${\cal{O}}(b(m+d-1))$ 支持 多输入单输出LTI 注1: 表中设定存储一位十进制数需消耗B 位内存, 存储元素$\pm1$需一位内存.
表1 不同感知矩阵的性能比较Table1. Performance comparisons of different sensing matrices. 由表1 可知, Bi-TpCM不仅具有随机感知矩阵的信息感知能力和普适性, 而且也继承了托普利兹矩阵支持快速计算和对硬件友好的优势, 同时还引入了双极性混沌序列易于存储、计算复杂度低等天然优点. 特别地, 相比于已存在的混沌感知矩阵, 本文提出的构造方法只需要利用生成的双极性混沌序列直接构造Bi-TpCM, 毋须对实值混沌序列进行抽样操作. 除此之外, 构造的托普利兹块状感知矩阵特别适用于多输入-单输出LTI系统的压缩感知测量问题.4.仿真结果及分析 本节将通过仿真实验来验证Bi-TpCM的性能. 首先采用数值实验来观察Bi-TpCM的约束等距现象. 随后, 通过对一维稀疏信号和图像分别进行压缩采样, 来验证Bi-TpCM的采样性能. 为了对比分析, 传统的感知矩阵也被加入了同样的稀疏感知场合, 涉及的矩阵包括Den-RgM, Den-Bol, Den-CbM, Top-Rad和Cir-CaM. 其中, Den-CbM是由$ \alpha = 6 $ , 初始值$ z_0 = 0.17 $ 和抽样步长为10的实值Chebyshev混沌序列构造而成. Cir-CaM则是由初始值$ z_0 = 0.09 $ 和抽样步长为200的实值Cat混沌序列派生而成. Bi-TpCM是由本文介绍的双极性Chebyshev混沌序列构造而成. 本节的所有实验均在台式电脑, 英特尔至强银4110 CPU@2$ \times $ 2.10 GHz (双处理器), 64 GB内存下的Matlab-R2018b的环境下进行. 24.1.约束等距现象 -->4.1.约束等距现象 首先, 根据3.1 节构造出一个Bi-TpCM$ \in \mathbb R^{100 \times 256} $ , 构造参数为$ \alpha = 6 $ , $ z_0 = 0.17 $ , $ b = 4 $ 及$ d = 64 $ . 忽略标量$1/{\sqrt{m}}$ , 图1(a) 给出了构造的Bi-TpCM的元素分布. 可以看出, 双极性托普利兹块状混沌感知矩阵的元素–1与+1的数量基本相同, 这也从侧面验证了用于构造该感知矩阵的双极性混沌序列$ \{T({\tau^j(z_0)})\}_{j = 0}^{\infty} $ 是Rademacher序列. 图 1 忽略标量${1}/{\sqrt{m}}$ 的Bi-TpCM及其对应的Gram矩阵展示图 (a) Bi-TpCM; (b) Gram矩阵的三维渲染图; (c) Gram矩阵的等高图 Figure1. Bi-TpCM without the factor ${1}/{\sqrt{m}}$ and its Gram matrix: (a) Bi-TpCM; (b) three dimensional rendering of its Gram matrix; (c) contour map of its Gram matrix. 图1(b) 和图1(c) 分别给出了Bi-TpCM对应的格拉姆矩阵. 可以看出, Bi-TpCM的Gram矩阵的对角元素$ {G_{i, i}} $ 均收敛于1, 而非对角元素均在0附近浮动. 根据推论3可知, Bi-TpCM的确具有约束等距性, 正如标准的随机感知矩阵一样. 24.2.一维稀疏信号 -->4.2.一维稀疏信号 先生成一个稀疏度为s 的一维信号${{x}}\in \mathbb{R}^{256}$ 作为待采样信号, 其非零元素服从高斯分布$ {\cal{N}}(0, 1/2) $ . 为恢复信号和评估重建质量, 欠定重构算法将使用文献[7 ]提出的基追踪算法; 重构质量标准则使用信噪比(signal-to-noise ratio, SNR), 其定义为 式中$ {\hat{ {x}}} $ 表示重构信号. 特别地, 对于一个时域稀疏信号x , 若重构时${\rm{SNR}}({{x}}) \geqslant 100 \;{\rm{dB}}$ , 那么称该信号被完美重构(perfect recovery). 在这些参数设置下, 图2 给出了利用Bi-TpCM$ \in \mathbb{R}^{100 \times 256} $ 分别对稀疏度为20和30的一维稀疏信号$ {{x}} \in \mathbb{R}^{256} $ 进行压缩测量的具体表现. 具体地, 图2 第一列对应的恢复误差(定义为${\|{{x}}-} {{\hat{ {x}}} \|^2}$ )和重构SNR分别是3.58 × 10–13 和124.45 dB, 第二列的恢复误差和重构SNR分别是1.26 × 10–12 和118.99 dB. 由图2 可知, 一维稀疏信号x 能够以极小的误差(恢复误差的数量级是10–12 )被重构出来, 这也说明了本文新建的Bi-TpCM具有优良的测量效率. 图 2 Bi-TpCM压缩测量一维信号的重构 (a) s = 20, 条形图; (b) s = 20, 细节图; (c) s = 30, 条形图; (d) s = 30, 细节图 Figure2. Reconstructions of one-dimensional signal using Bi-TpCM: (a) s = 20, stem rendering; (b) s = 20, detailed drawing; (c) s = 30, stem rendering; (d) s = 30, detailed drawing. 接下来, 利用Den-RgM, Den-Bol, Den-CbM, Top-Rad, Cir-CaM和Bi-TpCM (均$\in \mathbb{R}^{100 \!\times\! 256}$ )分别去采样稀疏度s 变化的一维稀疏信号$ {{x}} \in \mathbb{R}^{256} $ . 随后, 使用BP算法去重构原信号以得到$ {\hat {{x}}} $ , 并且针对每一个稀疏度s 的x 重复实验100次. 最后, 通过求平均的方法便可获得这些感知矩阵的平均恢复结果. 图3(a) —(c) 分别比较了这些感知矩阵的恢复误差、重构SNR和完美重构概率. 由图3 可知, 采用的典型感知矩阵(包括Den-RgM, Den-Bol, Den-CbM, Top-Rad和Cir-CaM)整体呈现出了近乎一致的稀疏感知能力. 但在细节上, 实值混沌感知矩阵(Den-CbM)要略优于随机感知矩阵(Den-RgM和Den-Bol, 值得强调的是, 人们普遍认为Den-RgM具有良好的稀疏感知效率), 而它们都优于结构性感知矩阵(Top-Rad 和Cir-CaM). 图 3 分别使用不同的感知矩阵对稀疏度变化的x 进行压缩测量时的重建性能比较 (a) 重建误差; (b) 信噪比 (dB); (c) 完美重建的概率 Figure3. Performance comparisons for recovering x with different sparsity using various sensing matrices, respectively: (a) Recovery error; (b) SNR (dB); (c) perfect recovery probability. 特别地, 图3 清晰地展示出了Bi-TpCM的性能要明显优于这些传统的常用感知矩阵, 这也从侧面说明了Bi-TpCM比这些感知矩阵更具有接近于理论最优的采样效率. Bi-TpCM强大的稀疏感知能力为它在CS中的实际应用提供了根本性保障. 24.3.图像信号 -->4.3.图像信号 本部分将比较不同感知矩阵对图像信号进行压缩采样时的性能, 使用的感知矩阵包括Den-RgM, Den-Bol, Den-CbM, Top-Rad, Cir-CaM和Bi-TpCM. 这里选取了两张自然图像作为测试信号$ {{x}} \in \mathbb{R}^{256 \times 256} $ , 即“Lena”和“Lin”. 这两张图像分别展示在图4(a) 和图4(e) 中, 它们在离散小波变换域中均是可压缩的. 本文将采用经典的OMP算法作为图像重建算法, 并使用峰值信噪比(peak-signal-to-noise ratio, PSNR)作为重建图像的质量评价指标, 其定义为 图 4 原始图像和Bi-TpCM在不同采样率下的恢复图像, 其中第一行是(a) 原始“Lena”, (b) $\varpi=0.3$ , (c) $\varpi=0.6$ , (d) $\varpi=0.8$ ; 第二行是(e) 原始“Lin”, (f) $\varpi=0.3$ , (g) $\varpi=0.6$ , $\varpi=0.8$ Figure4. Original and reconstructed images using Bi-TpCM at different sampling rates. The first row: (a) Original “Lena”; (b) $\varpi=0.3$ ; (c) $\varpi=0.6$ ; (d) $\varpi=0.8$ . The second row: (e) Original “Lin”; (f) $\varpi=0.3$ ; (g) $\varpi=0.6$ ; (h) $\varpi=0.8$ . 式中$ {\hat{ {x}}} $ 代表重构后的图像. 应当指出的是, 这里在图像的压缩测量过程中引入了高斯噪声来模拟实际应用场景中的加性噪声和乘性噪声. 首先, 图像“Lena”和“Lin”分别被Den-RgM, Den-Bol, Den-CbM, Top-Rad, Cir-CaM和Bi-TpCM在不同的采样率$ \varpi $ 下压缩测量和重建, 即采样率$ \varpi $ 随着测量样本数据的维度增加而增加. 在重构算法OMP的作用下, 可以获得这些感知矩阵对应的重构图像和重建PSNR. 值得注意的是, 为增加随机感知矩阵(即Den-RgM, Den-Bol和Top-Rad)性能的稳定性, 这里让它们重复执行该实验100次, 后取其平均结果. 由于Den-CbM, Cir-CaM和Bi-TpCM是确定性感知矩阵, 因此它们的实验结果是稳定的, 不需要重复测试. 为了更好地视觉展示, 图4 给出了使用提出的Bi-TpCM在采样率分别为$ 0.3 $ , $ 0.6 $ 和$ 0.8 $ 时的恢复图像, 其中图像“Lena”对应的重建PSNR分别是22.52, 29.19和32.36 dB; “Lin”的恢复PSNR分别是23.69, 30.22和33.59 dB. 由图4 可知, 随着采样率$ \varpi $ (测量样本数据)的增加, 重建的图像也越来越清晰. 并且当$\varpi \geqslant 0.5$ 时, 便可得到一幅较为清晰的恢复图像. 为节约篇幅, 这里省略了其他感知矩阵的恢复图像.图5 比较了在不同采样率下, Bi-TpCM和传统感知矩阵(包括Den-RgM, Den-Bol, Den-CbM, Top-Rad和Cir-CaM)重建图像“Lena”和“Lin”时的PSNR值. 从图5 可知, 在低采样率($\varpi \leqslant 0.35$ )下, 提出的Bi-TpCM的性能要明显优于其他感知矩阵, 而在较高的采样率($\varpi \geqslant 0.4$ )时, 这些感知矩阵的采样性能相差不大. 但整体上, 新建的Bi-TpCM要比传统的感知矩阵做得更好. 图 5 在不同采样率下利用不同的感知矩阵对图像进行压缩测量时的重建PSNR比较 (a) “Lena”; (b) “Lin” Figure5. Reconstructed PSNR comparisons for image compressed sensing using different sensing matrices at various sampling rates, respectively: (a) “Lena”; (b) “Lin”. 以上对一维信号和图像的测试表明, 本文的Bi-TpCM与经典感知矩阵相比在采样效率和恢复效果等方面具有明显的优势. 结合Bi-TpCM的确定性托普利兹块状结构, 同时具有双极性混沌序列的天然优点, 因此, Bi-TpCM具有更好的应用潜力.5.结 论 本文结合双极性混沌序列的内在确定性和托普利兹矩阵的优点, 构造了基于双极性混沌序列的托普利兹块状感知矩阵. 与其他混沌感知矩阵生成方法不同的是, 构造Bi-TpCM只需要双极性混沌序列, 无须对实值混沌序列进行抽样操作. Bi-TpCM不仅直接继承了托普利兹块状感知矩阵的优势, 而且还引入了双极性混沌序列的天然优点. 理论分析表明, 构造的Bi-TpCM具有约束等距性, 且在自相关性方面接近于最优的采样保证, 此外, 它在内存开销、计算复杂度和硬件实现等方面具有明显优势. 通过对一维信号和图像进行压缩采样, 验证了本文构造的Bi-TpCM相比于其他典型感知矩阵具有更好的性能. 一方面, 本文提出的构建Bi-TpCM框架可推广至不同的混沌系统, 如Logistic和Cat混沌系统, 这样就可以建造出一大族托普利兹块状感知矩阵. 另一方面, Bi-TpCM的构造方式还能派生出Hankel块、循环块以及堆积块感知矩阵等. 读者可以利用类似本文的方法来分析这些混沌感知矩阵的性能. 除此之外, 可以将Bi-TpCM和其衍生出的感知矩阵应用于各种各样的多输入-单输出LTI系统的压缩感知测量问题, 这也是该方向未来工作的重点.附录A 定理3 (Ger?hgorin圆盘定理) [22 ] 设矩阵$ {{G}} \in \mathbb{R}^{n \times n} $ , 其元素记为${G}_{i, k},\; 1 \leqslant i, k \leqslant n$ , 那么矩阵$ {{G}} $ 的特征值存在于n 个圆盘$d_{i} = d_i(c_i, u_k), \;1 \leqslant i \leqslant n$ 的结合处, 其中$ c_i = {G}_{i, i} $ 表示$ d_{i} $ 的中心, $u_i = \sum\nolimits_{k \neq i}|{G}_{i, k}|$ 为$\substack d_{i}$ 的半径.