基于全变差正则化的一致性约束的量化重构方案研究*

2022-08-26 09:40王良君陈丹丹陆安琪
计算机与数字工程 2022年7期
关键词:一致性约束比特

王良君 陈丹丹 陆安琪

(江苏大学计算机科学与通信工程学院 镇江 212013)

1 引言

压缩感知理论(Compressed Sensing,CS)[1~3]突破了以传统奈奎斯特采样定理为基础的传统信号处理方式,信号的采样速率突破采样带宽的约束,而仅取决于信号的稀疏性。最近人们从降低采样速率的角度转换到降低量化精度的角度,引出了1-Bit压缩感知理论。1-Bit压缩感知[4]是在传统压缩感知的基础上对测量值进行极限量化处理。量化过程用比较器代替量化器,通过减少每个测量值的位数,实现高效快速量化,大大提高了数据的测量和传输速度,缓解了编码器的硬件压力。

1-Bit压缩感知是将重构信号约束在一个单位球上进行求解,如何将这种一致性约束求解的思想运用到多比特压缩感知中是本文关于压缩感知领域中量化方案的研究。况且在实际应用中,要想从量化后的数据中重建出原始信号,1-Bit 压缩感知所需要的观测数往往比按照奈奎斯特采样方法所需个数还要多。本文将一致性约束重构应用于基于压缩感知的图像量化编码阶段,旨在解决1-Bit压缩感知的量化阈值固定为零时容易造成码字高冗余度和依靠增加测量数来弥补低量化精度的问题,并在一定程度上提高图像重构效果。

2 背景

在压缩感知理论中,压缩采样的测量值必须量化为有限精度。量化是不可逆的过程,通常会引入一定程度的量化误差,一般把这种量化误差当成加性噪声来处理。当测量值量化为1bit,即每个采样点仅保留其标志位信息,在此基础上对其进行能量约束,仍可恢复原信号的稀疏位置。2008年P.Boufounos 和R.G.Baraniuk 初次提出1 比特压缩感知理论[4],指出可以用比较器代替ADC 量化器,实现采样系统的高速运行,并利用特定的重构算法恢复出原始信号,我们称这种采样和信号重构过程为1-Bit压缩感知(1-Bit CS)。

1-Bit压缩感知与传统压缩感知的区别在于对采样值进行1-Bit 量化。1-Bit 量化可通过比较器实现,仅保留观测值符号信息,克服了信号动态范围的影响。假设一个离散时间信号x∈RN为N*1维K 稀疏向量,在1-Bit压缩感知中,对其观测获得测量值之后进行1 比特量化,通常将M 个观测值yi分别与0 相比较,如果ϕi,x>0,其中表示ϕi表示测量矩阵Φ 的第i 行,则输出yi为+1,否则输出yi为-1,则采样点的1-Bit 量化可以理解为取M 个测量值的符号信息。

采样值的1比特量化的矩阵形式为

1 比特压缩感知的解应该满足两个条件:信号稀 疏 性,即||x̂||0≤K=||x||0;符 号 一 致 性,即A(x̂)=y=A(x)。利用1 比特量化值y 来构造一个对角矩阵Y=diag(y)。在矩阵Y 中,对角线上元素为y=[y1,y2,…,yN]T,其余元素都为零,此时可以得到:

因此1比特压缩感知的求解模型可以表示为:

为了可以求解出有效解,1 比特压缩感知理论提出者在求解时增加了一个能量限制,即将重构信号放在一个单位球上进行求解,以减少最优化搜索范围。在重构过程中,虽然不能恢复幅度信息,但是可以重构出与原信号方向一致的稀疏信号。因此重构模型可表示为

3 基于一致性约束重构的压缩感知量化重构方案

1-Bit 压缩感知的量化阈值固定为零,仅依靠量化后的符号值对量化误差进行总体上约束,重构质量低,需要依靠增加测量数来弥补低量化精度带来的性能损失。针对上述问题本文提出一种基于全变差正则化的一致性约束量化重构方案。该方案采用全变差正则化模型,将1-Bit 压缩感知中一致性约束思想引入到多比特量化场合,通过两个阈值门限精准定位恢复区间,有效降低量化误差。实验证明,与经典压缩感知的二次约束重构方法相比,该方案有效提升了采样效率和重构效果,非常适用于低精度量化的场合。

3.1 算法设计

本文对传统压缩感知的重构模型进行了改进,将1-Bit压缩感知中的一致性约束概念推广到多比特的感知量化中。具体来说,令测量矩阵为A,观测信号x后得到观测值y。若采用标量量化,任意观测值都可得到其在量化轴上某个区间的代表量。传统压缩感知将量化区间中心值作为观测值的估计值,并将量化误差视为白噪声,采用2 范数刻画量化误差,即在整体能量上对信号量化误差进行约束。求解模型如下:

其中,e为量化总体误差,由量化精度所决定。为了提升重构性能,借鉴1-Bit 压缩感知中的一致性约束思想,本文提出一种新的重构模型。该模型舍弃了传统二次项全局约束,取而代之的是对每个观测值采用单独约束,要求求解值需满足对所有观测值的一致性量化约束,而非全局意义上的满足。令第i 个观测数yi,其在量化轴上的量化值为̂ ,则yi必定大于量化区间的左端点̂-Δ/2,小于右端点+Δ/2,模型如下:

其中sgn(·)为符号函数。为了简化公式,我们将左右端点统一采用τ表示,并针对二维图像信号梯度稀疏特征,引入全变差模型对信号进行稀疏表示,如此一来重构模型可表示为如下形式:

式中,TV(x)是x的变分,即TV(x)=‖Dix‖1,τ是阈值向量,ys是观测符号仅有+1,-1两种取值。

正则化是对最小化经验误差函数进行约束,加快收敛速度。TV(·) 项能准确地保留边缘或边界,使恢复后的图像质量更清晰,但其直接做微分,操作复杂,所以这里引入松弛变量w便于在更大的可行域内求解。

此时采用增广拉格朗日方法将目标函数转化为

这里,λ、β、μ是惩罚参数,f(·)是单边二次罚函数,即

利用增广拉格朗日的方法将带约束的模型转换成不带约束的目标函数,并用交替方向变换方法来求解目标函数,将问题(10)转变为两个子问题进行求解,即求x和w子问题,其中x的子问题为

w的子问题为

通过迭代的方法,先求x的子问题,再求w的子问题,交替优化两个子问题,能够使得总目标一直在优化,最终得到近似最优解。

3.2 x子问题的求解

假设xi,k和wk分别表示在求解子问题时第k次内部迭代中式(10)目标函数的近似最小值。若j=0,1,…,k时,xi,j和wj可由式(9)得到,那么x子问题的求解等同于下式:

很显然,在式(12)中Q(x)是一个二次函数,它的梯度为

若直接令式(14)为零对其求解,理论上是接受稍微精确的极小值作为x子问题的解。然而迭代中逆矩阵或者伪逆矩阵的计算成本过高甚至无法实现,因此使用最陡下降法来迭代求解x子问题,递归公式如下:

其中,d为目标函数的梯度方向。最陡下降法在每次迭代时都需要更新梯度方向,其复杂度是计算AT Ax的两个矩阵向量乘法。要获得Q( )x的最小值,n 步最陡下降法至少需要2n 次矩阵向量乘法。对于大规模问题,该方法仍无法成为有效的算法。此时可以通过交替解决求x子问题和w子问题来求解目标函数(10)的最小值,不需要每次都准确求出x子问题的解。与其采用多次最陡下降法进行求解,还不如直接从Qk-1(x) 的近似极小值xk开始,作为Qk(x)的近似极小值开始下一步迭代。

对于梯度下降步长α的选择,Barzilai 和Borwein提出了最陡下降法选择步长的一种方法,一般称之为BB 步长[11],该方法是利用前两次迭代来实现超线性收敛[12],更让人惊奇的是,他们在论文中还分析到随着问题的恶化,收敛速度甚至更快。但是这种一步式的最陡下降法不能提供两次迭代,需要通过必要的迭代得到xk-1和xk来推导出类似BB 方法的步骤[13~14],从而得到步长的计算公式如下:

其中,sk=xk-xk-1,yk=dk(xk)-dk(xk-1)。

当 内 部 迭 代 收 敛 至 ‖ ∇LA(wi,k,xk)‖2或‖xk+1-xk‖2足够小,则内部迭代停止。

3.3 w子问题的求解

通过上面求解到的xk+1,wi,k+1可以通过求解下式来获得

求解该式等同于求解w的子问题。

引理1[10,15]对于给定的β>0,ν,y∈Rq,

其最小值由二维收缩公式(2D Shrinkage-like Formula):

来逼近求得最小值。

根据引理1,当‖ ‖· 为2 范数,w子问题的闭式解可以明确计算出:

经过xk+1、wi,k+1的辅助,交替转换求解目标函数式(10)的最小值,等价于求解x的子问题式(12)。

3.4 总体算法流程

前文提出的基于TV正则化的一致性约束重构的压缩感知量化重构方案算法流程如表1所示。

表1 基于TV正则化的一致性约束重构的压缩感知量化重构算法步骤

4 实验结果与分析

本节将通过仿真实验分析该量化方案的信号重构性能。在对比实验中,采用了标准测试灰度图像信号作为实验对象。图像内容有平滑的House和Peppers 图片,还有很多细节的Crowd 图片。信号总长度N=2562。实验表明,与基于传统的二次约束重构的量化方案进行比较,本文提出的量化方案重构效果更佳,非常适用于低精度量化的场合,在实际应用中具有明显的优势。

图1 仿真实验中使用的所有测试图像

首先设定观测比例分别为40%、50%、60%、70%,量化位数为3位。在该低精度量化条件下,表2 展示了上述测试图像在一致性约束重构和二次约束重构方案中的重构峰值信噪比(PSNR)。

表2 不同采样率下,量化位数为3时,重构算法的PSNR(dB)比较

从表2 中可看出,在不同采样率下,一致性约束的重构质量均优于二次约束算法,原因在于一致性约束重构模型舍弃了传统二次项全局约束,对每个观测值都采用单独约束,同样的量化观测值在重构模型中对信号具有更紧的约束能力。在70%观测条件下,一致性约束重构较二次约束重构最多有8.89dB的提升。

为了做更为详尽的比较,我们对图片Lena 和House 进行了更多的比较实验。设定观测比例分别为40%、50%、60%。图2分别显示了在对观测值进行1、2、3、4、8位量化后的PSNR对比结果。

图2 编码效率仿真结果对比

从上述仿真实验的结果来看,在低精度量化条件下(如1位、2位、3位量化),本节中提出的一致性约束方案的重构质量明显优于二次约束方案。比如对Boat 图像进行60%观测时,若仅使用3 位量化时,本文方案仍可获得25.14dB 的PSNR 值,而传统二次约束重构方案仅有19.37dB。而在高量化精度条件下(如8 位量化),此时量化误差已经非常小,信号重构的误差主要来自于低采样率下的稀疏表示误差而非量化噪声。因而,此时采用二次约束和一致约束的差异已不明显,从而导致两种方案的PSNR值十分接近。

此外,本文还发现一个很有趣的现象:对于二次约束重构方案,如果量化精度很低(如量化位数为1、3),二次约束重构方案的PSNR 值随着观测数的增加会有所下降,这是由于二次约束重构方案是从总体上对待量化误差,在低精度情况下样本的总体量化误差非常大,引入更多的观测值反而会造成总体二次约束项所决定的子空间进一步扩大,导致算法重构精度的下降。而本文方案将每个观测值单独对待,每个观测数都对重构解有一个单独的约束,观测数越多约束位越紧致,因此性能与观测数成正相关,从而更加适用于低量化精度的场合。

最后,图3 还展示了部分重构图像(Lena、Peppers)的实验结果。此实验中,图像的采样率为0.8、量化位数为4。从对比结果来看,本文提出的一致性约束重构量化方案比二次约束重构方案在视觉效果上的提升也很明显。采样率和量化精度相同条件下,本文方案获得的图像更为平滑,而二次约束重构的图像噪声效果更为明显。

图3 采样率是0.8,量化位数为4时,两种重构方案输出的图像效果

5 结语

本文提出了一种基于全变差正则化的一致性约束量化重构方案,针对1 比特压缩感知中固定零阈值带来的码字高冗余度问题,将1 比特压缩感知的一致性约束重构思想拓展到多比特量化中,在全变差正则化模型下,利用已获得的信号观测值,用两个阈值门限对其进行量化来实现压缩感知的普遍一致性约束。这种基于全变差正则化的一致性约束的量化重构方案旨在解决1 比特压缩感知增加测量次数来弥补低量化精度的问题,降低量化误差。

通过在不同量化位数下的对基于一致性约束重构的压缩感知量化方案和基于二次约束重构的量化方案的比较,仿真实验表明,本文的一致性约束重构方案在各种采样率下都更好地重构出原始信号,因而特别适合低精度量化的场合,具有很强的实际应用价值。

猜你喜欢
一致性约束比特
商用车企业的3C零部件一致性管控新模式
离散异构线性多智能体系统的输出一致性
商用车CCC认证一致性控制计划应用
基于Paxos的分布式一致性算法的实现与优化
《彭博》比特币有多贵?
比特币分裂
马和骑师
比特币一年涨135%重回5530元
神秘的比特币
CAE软件操作小百科(11)