基于H.264 码率控制算法的优化

周易龙

（上海海事大学 信息工程学院，上海 201306）

码率控制就是调整视频编码输出码率，使之与传输带宽相匹配，同时获取最小的解码失真，以保证良好并且稳定的接收解码质量。因此，在给定的比特流的条件下，编解码器采用码率控制可以获得高质量和高平滑的视频。量化是视频数据压缩的重要过程，QP（量化参数）是影响码率的关键因素。

量化参数反映了空间细节压缩情况，QP 减小，大部分细节会被保留，同时码流比较大，QP 增大，大部分细节会丢失，此时码流较小。为了保证缓冲区的码流既不上溢也不下溢，可以通过二次率失真模型进行预测QP 的值，调节QP 的大小来调整码率。二次率失真模型中采用MAD 计算QP 时，在图像内容变换较大时，会导致估算的目标比特数与实际输出之间误差很大，并且相邻两帧图像之间的剧烈波动将严重影响图像的主观质量。为了有效地解决这个问题，本文提出了在像素差值计算基础上加入hadamard 变换即SATD，用SATD 来代替MAD 计算QP，可以很好地解决了这一问题。

1 标准的码率控制算法

码率控制主要包括3 步，首先，目标比特数的分配，然后，根据目标比特数进行编码参数的选择，最后，参数更新过程。标准中的码率控制方案共分3 层：GOP（groupof pictures）层码率控制，帧层码率控制，基本单元层码率控制。

QP 在现在的标准（JVT-K049）中通过二次率失真模型进行计算Qstep，再通过QP 与Qstep 的关系来计算QP[1]。

其中Tsrc为目标比特数，α1，α2为预测模型系数，初值分别为1 和0，通过线性回归统计计算得到。Headbit为头比特数表示编码信息。

采用线性模型来预测MAD，即当前基本单元的MAD 计算是通过前一帧在此位置上的MAD 中计算得出，公式（2）[1]

其中MADcb表示当前位置上的MAD，MADpb表示前一帧在相同位置上的MAD，a1、a2为预测模型的参数，初值分别为1、0。

2 改进的码率控制算法

二次率失真模型中采用MAD 来计算量化步长Qstep，再通过QP 与Qstep 的关系来计算QP，此种情况计算所得到的QP 在图像内容变换较大时，会导致估算的目标比特数与实际输出之间误差很大，并且相邻两帧图像之间的剧烈波动将严重影响图像的主观质量。本文在计算像素差值的基础加上hadamard 变换即SATD，采用SATD 替代MAD 以此计算QP，

改进的Qstep 计算[2-4]：

其 中 SATD为 sum of absolute hadamard transformed differences。

SATD 的预测：

其中SATDc表示当前帧的SATD，SATDp表示前一帧的SATD，λ1，λ2初值分别为1 和0，采用线性回归的方法进行更新。

用式（4）计算量化步长Qstep：

其中s 代表SATD，

本文采用新的方法[5-6]计算SATD，此种方法已被验证可以快速计算SATD，有利于实时通信的应用。其中4X4 阶SATD

其中H4×4代表4×4 阶hadamard 变换系数矩阵，D4×4代 表4×4 阶像素差值矩阵，上述公式表示像素差值矩阵先进行hadamard 变换再求其绝对值，最后求其和。

H4×4系数矩阵为：

SATD 具体每列的计算如下：

SATD（D4×4）=2·[max（|d1+d3|，|d2+d4|）+max（|d-d3|，|d2-d4|）]

其中d1，d2，d3，d4代表列向量的4个元素。

根据下式可以将4×4 阶推导出8×8 阶和16×16 阶，

3 实验测试结果

本试验结果在VS2010 开发环境中，JM18.0 平台上去实现本文提出的码率控制策略，并与JM18.0 采用的标准码率控制方案作比较。实验使用标准的qcif 测试序列：bridge，highway，hall，suzie，akiyo 帧率为30 帧/ s，共编码100 帧，目标码率为32 kb/s。给定第1 帧的QP为30，RCUpdateMode[7]值为2 即I 和B 片（包括分层）原件加上智能QP 选择。

图1 视频序列bridge（左）和highway（右）帧率与比特数的关系Fig.1 Frame rate relationship with the number of bits of the video sequence Bridge（left）and highway（right）

从图1 中可以看到bridge 和highway 比特流随帧数变化状况，新算法比原算法在视频序列复杂度激烈变化的地方有更好的表现。

从图2 中可以看到bridge 和highway 峰值信噪比随帧数变化状况，新算法比原算法在视频序列信噪比波动较小，有更好的表现。

图2 视频序列bridge（左）和highway（右）帧率与信噪比的关系Fig.2 relationship between the frame rate and signal-to-noise ratio of the video sequence Bridge（left）and highway（right）

表1 视频序列比特率和峰值信噪比测试结果Tab.1 The bit rate of the video sequence and peak signal-tonoise of the test results

表2 视频序列信道信噪比和MSE 测试结果Tab.2 Video sequence of channel signal-to-noise ratio and MSE test results

从图中和表中可以看出，新的码率控制算法可以更为准确地控制码率，可见本文提出的用SATD 代替MAD 在二次率失真模型中计算Qstep，最终计算出QP 有更好的表现，获得更好的峰值信噪比值、比特流、信道信噪比和MSE，

4 结束语

文中基于最新视频编码标准H.264 中采用的码率控制方案，提出一种改进的码率控制算法，用SATD 代替MAD 在二次率失真模型中计算Qstep，最终计算出QP。实验结果表明，本文的算法在较好地控制码率的同时视频序列的峰值信噪比、比特流、信道信噪比和MSE 有很好的提高，达到了更好地控制码流的效果，便于接收端获得良好稳定的视频流。

[1]Joint Video Team of ISO/IECMPEG and ITU-T VCEG.JVTK049.Text description of joint model reference encodingmethods and decoding concealment methods [S].Munish，Germany..Keng-Pang Kim，Gary Sullivan，Thomas Wiegand，Mar.2004.

[2]Kwon D K，Shen M Y，Kuo C C J.Rate control for H.264 video with enhanced rate and distortion models [J].IEEE Transactions on Circuits and Systems for Video Technology，2007，17（5）：517-529.

[3]ZHU Tao，ZHANG Xiong-wei.A novel rate control scheme for H.264/SVC base layer [C]//Wireless Communication &Signal Processing，WCSP，International Conference on，2009：1-5.

[4]LIU li，ZHUANG Xin-hua.A Novel Square Root Rate Control Algorithm for H.264/AVC Encoding，Multimedia and Expo，ICME 2009 [C]//IEEE International Conference，2009：814-817.

[5]ZHU Ce，XIONG Bing.Transform-Exempted calculation of sum of absolute hadamard transformed differences [J].IEEE Ttansactions on Circuits and Systems for Video Technology，2009，19（8）：1183-1188.

[6]XIN Shu-ping.Optimization of the SATD Function in AVSM [C]//Networking and Digital Society（ICNDS），2nd International Conference on，2010：613-616.

[7]Joint Video Team（JVT）of ISO/IEC MPEG &ITU-T VCEG，JVT-W042，Rate Control reorganization in the Joint Model（JM）reference software [S].Athanasios Leontaris，Alexis Michael Tourapis.23rd Meeting：San Jose，California，USA，21-27 April，2007

[8]韩峥，唐昆，崔慧娟.基于H.264的码率控制算法[J].清华大学学报：自然科学版，2008，48（1）：59-61.HAN Zheng，TANG Kun，CUI Hui-juan.Rate control method based on the standard H.264 [J].Journal of Tsinghua University：Natural Science，2008，48（1）：59-61.

[9]邓中亮，段大高，催岩松，等.基于H.264的视频编/解码与控制技术[M].北京：北京邮电大学出版社，2010.