基于二次规划的量化随机非线性系统在线辨识

杨仕旗，王宏伟，2，李昊哲，郭明霄

(1. 新疆大学电气工程学院，新疆 乌鲁木齐 830047； 2. 大连理工大学控制科学与工程学院，辽宁 大连 116024)

1 引言

随着网络技术和远程传输的发展，数据的量化变得尤为重要。系统输出值的量化在数据处理中应用广泛，特别是在信号处理中。例如，网络控制系统和传感器网络等。数据通常被量化以最小化通信资源的利用。量化的主要目的是为了减少信道中需要传输的信息总量，节约通讯资源。但是经过量化后的数据，所包含的系统信息会产生部分缺失，导致系统性能降低。缺失的程度由量化方式和量化层级决定。对于量化系统辨识，输出信息的不准确使得辨识变的更加困难。目前对量化线性系统辨识的研究主要有，王颖等利用分布式参数辨识的方法研究了线性定常离散时间量化系统的问题；Xiao等采用线性系统的递归估计和量化阈值的方法研究了具有量化输出的线性系统辨识问题；Wang等学者提出了基于二次规划的方法用于研究线性有限脉冲响应量化系统。

工业中大多数系统都是非线性的，常用的非线性系统模型是Hammerstein模型。对于非线性模型辨识，文献[11]利用辅助模型辨识原理对不可测变量进行估计，并提出递归估计算法估计死区函数和模型参数；文献[12]针对了Hammerstein有限脉冲响应参数估计问题，提出了一种基于数据滤波的多新息扩展随机梯度算法；Wang等利用关键项分离原理和辅助模型多新息方法将系统输出表示为参数的线性组合，研究了Hammerstein系统的辨识问题；文献[14]采用一种改进的多新息梯度算法来辨识带有间隙的Wiener-Hammerstein系统；文献[15]利用Wiener基函数解决非线性辨识问题。对于量化非线性系统，谢林柏等利用随机重复性试验数据，提出基于辅助模型的多新息量化辨识方法；Guo Jin等学者研究了具有量化输入和二值输出观测值Wiener系统的辨识问题。

一般量化非线性系统含有有色噪声，关于量化系统的文献基本都是离线方式完成的。本文提出了基于二次规划的量化随机非线性系统的在线辨识方法。主要特点：①对非线性量化系统进行在线辨识；②利用二次规划的KKT定理证明收敛性；③算法对噪声抗干扰能力强。

2 问题提出

图1 Hammerstein有限脉冲响应量化系统

()和()可以描述为

()=++…+-

()=1+++…+-

(1)

其中，为后移算子，表示为()=(-1)。

一般，非线性部分(·)可以描述为

(2)

其中，，，…，为一组已知的基函数，，，…，为系数。

由式(1)和式(2)得Hammerstein有限脉冲响应量化系统模型可表示为

(3)

()=()()

将模型(3)中()改写为

(4)

=[，，…，]∈

=[，，…，]∈

(5)

且=[，，…，]∈。

(6)

因此，模型可以改写为

(7)

给定量化输出值()，输入值()和量化规则[·]，目的是为了辨识未知参数，这里假设此量化系统的，，是已知的。

系统输出量化的基本思想是将输出信号在数学上划分成有限个不重叠的区域，在每个区域上指定一个量化值。将量化规则按等距离分割的量化称为均匀量化。例如，模数转换器通常都是均匀量化器。量化过程如图2所示。

图2 均匀量化过程

图2中信号量化值取相邻两个量化区间的中间值。实际输出()经过均匀量化器后变为量化输出()。

本文采用标量均匀量化器，系统的输出值()为量化器的输入值。对任意的>0表达式为

(8)

其中，量化参数ε为给定的任意整数。对于Hammstein有限脉冲响应量化系统，通过分析可以看作是Hammerstein-Wiener系统。

3 二次规划辨识

对于任何的量化输出观测值()和系统输出()满足

(())≤()≤(())

(9)

其中和是量化输出()在量化规则[·]下所对应的已知函数。当量化器规则[·]按式(8)所示，则有

()-05≤()≤()+05

(10)

参数辨识的目的是尽可能的使()=()-的值小。故取性能指标函数为

=min[()-]

(11)

当输出值为个时，式(11)可转化为带约束条件的二次规划问题，即

(12)

其中=1，2，…，。

令

(13)

其中=1，2，…，。

针对式(12)中未知参数的估计，将式(12)转化为标准的二次规划形式如下

(14)

其中，为×的单位矩阵。()是由信息向量组成的矩阵，该矩阵由系统输入()和噪声输入()来决定。定义()的上下界分别为()、()。

令

(15)

这样对求原系统参数估计值的问题，就转换成求如下二次规划最优解的问题。

s.t.()≤()≤()，=1，2，…，

(16)

为了更清晰的了解本文算法过程，现将整个算法总结如下

Step 2：计算()、()、()、()和()；

Step 3：化成标准的二次型形式(16)，求出最优解；

Step 4： 如果=，为总的采样次数，执行Step 5；否则，=+1转到Step 2；

4 二次规划理论分析

在式(14)中()∈(++)×(++)，不难判断()为半正定矩阵。因为()矩阵的秩不完全都大于。因此式(16)中二次规划问题是凸规划问题，但并不是严格凸的，可能存在局部解。接下来，给出式(16)取得唯一解的条件。

假设矩阵()∈(+)×的列为满秩。对其进行分解

(17)

酉矩阵为[]，∈(+)×，∈(--)×，∈(+)×(+)为非奇异矩阵。

定理1：若矩阵()进行分解后酉矩阵[]满足如下条件：

1矩阵()∈(+)×为列满秩。

2集合满足：

3式(17)中的任意一列元素不全为零，任意一行元素也不全为零。

定理1证明过程与文献[10]类似，此处略。下面给出定理2。

定理2：若对于Hammerstein有限脉冲响应量化系统满足如下条件：

1信息向量()满足定理1的三个条件。

2误差()和信息向量()是平稳遍历随机过程，且信息向量()有界。

3满足统计条件[()]=0，[()]<+∞，[()()]<+∞，[()()]=0，其中表示数学期望。

下面用类似于文献[10]的方法证明定理2。

证：设为Hammerstein有限脉冲响应量化系统的真实参数向量，则未经量化的系统实际输出为()。则式(7)可以变为

()=()+()

(18)

设式(13)中()和()为任意一个确定采样次数下的参数向量，定义式(16)带约束条件的拉格朗日函数如下

(19)

其中，()和()是=1，2，…，的拉格朗日乘子。考虑拉格朗日乘子的特殊值

(20)

(21)

(22)

式(22)为()在≠时的集合，则有

(23)

根据定理2中的条件2，()有界，式(20)和式(21)，可以得到

(24)

因此

(25)

接下来讨论的偏导数。根据式(18)、式(20)和式(21)，可得

(26)

假设条件2和条件3成立，则对于任意的有

(-)[()()](-)+()

(27)

对式(27)求关于的偏导

(28)

即

(29)

5 仿真实例

考虑如下系统

(30)

其中()为零均值单位方差的随机信号序列。()为零均值和方差为01的高斯白噪声序列。系统输出()被量化器[·]量化，量化规则为式(8)。、为待辨识的参数。取=1。=[1 -2 05 -1 02 -04 05]，=[05]。假设待辨识参数的上下界分别取150、-150，则有-150≤、≤150。利用本文给出的方法来估计这些参数。

图3 k=2000，σ2=0.1时参数估计结果图

图4 k=2000，σ2=0.1时跟踪误差图

图3和图4分别是=2000，=01参数估计结果图和跟踪误差图。为了更直观的反映辨识过程，在采样次数分别取100、500、1000、2000时，各辨识参数的估计值和估计误差记录于表1中。

表1 不同采样次数下的辨识效果

图3、图4和表1中k为采样次数，δ为估计误差。其中δ的计算方式如下

(31)

由图3、图4和表1可见，参数很快就收敛到真实值附近，且随着采样次数的增加，估计误差不断减少，更接近真实值。

定义噪信比为。对于此系统噪声的方差与噪信比的对应关系如表2所示

表2 不同噪声方差与噪信比的对应关系表

为了减少随机性，在不同噪声方差输入下，分别做1000次独立重复试验，统计其误差特性。图5到图9分别是噪声方差σ=0.1，0.5，2，5，8，k=2000时的统计结果。定义独立重复实验估计误差的分布范围(EDR)与均值(AV)。不同噪声方差对应下的EDR和AV如表3所示。

图5 σ2=0.1独立实验的统计结果

图6 σ2=0.5独立实验的统计结果

表3 误差分布范围EDR和平均值AV

图7 σ2=2独立实验的统计结果

图8 σ2=5独立实验的统计结果

图9 σ2=8独立实验的统计结果

图10 不同噪信比下独立重复实验统计结果

图5到图9中数据越集中在左侧0附近辨识效果越好。当噪声方差为0.1时，1000次独立重复实验整个输出误差分布最靠近左侧。

表3中独立重复实验估计误差的分布范围与平均误差随输入噪声方差的增大而增大，当噪声方差为8时，统计的平均误差为5.83%。图10为不同噪信比下输出误差的分布特性。由观察发现，在图5到图10和表3中，随着噪信比的增大，虽然估计值误差的分布范围和平均值也在增大，但是在噪信比为77.1%时，仍能保证具有较好的准确性，可见本文给出的方法对噪声有一定的抗干扰能力。

为了说明本文所用方法的有效性，将其与文献[19]的方法比较。文献[19]采用了辅助模型的递推最小二乘辨识方法。取=2000、=01，分别做1000次独立重复试验，统计其辨识效果。各辨识参数和估计误差分别取1000次实验的平均值和均方差，将统计结果记录在表4中。

表4 不同算法统计结果

通过对比发现，有限脉冲响应量化系统，若采用辅助模型的递推最小二乘时辨识效果较差，特别是对含有色噪声项的参数部分，偏差较大。而本文给出的方法不仅精度更高，而且在较小的采样次数下就能达到较为满意的估计结果。

6 结论

本文针对带有色噪声的非线性有限脉冲响应量化系统的在线辨识问题，采用了一种基于二次规划的方法。通过仿真实例，给出不同仿真步长、不同噪声方差输入下的辨识结果和不同算法的对比实验，发现其具有收敛快、精度高和对噪声抗干扰能力强的优点。在实际的工程实践中，存在着大量的非线性模型，采用的量化器也是不同的。对数量化器因其具有更符合实际工业过程和更好的反应大小信号的量化方式而被提出，其量化间隔是非均匀的，且随着输入信号的增大，量化误差也随之增大。目前关于辨识中采用对数量化器的研究主要是线性系统的量化，而非线性系统的对数量化则是一个难点，对其研究仍然较少，这也是下一步要研究的方向。