H. 264 /AVC帧内预测模式选择算法研究

0

H. 264 /AVC帧内预测模式选择算法研究

H. 264 /AVC帧内预测模式选择算法研究
裴世保,李厚强,俞能海
(中国科学威廉希尔官方网站 大学电子工程与信息科学系,安徽合肥230026)
(p ***@ustc. edu)
摘　要: H. 264 /AVC采用空间域上的帧内预测威廉希尔官方网站 ,进一步提高了编码效率,但由于H. 264 /
AVC支持的帧内预测模式数较多,使预测的复杂度大幅度增加。详细分析了帧内预测模式的选择过
程,提出一种快速的率失真优化(RDO)模式下的快速Intra_4 ×4模式选择算法,该算法根据SATD
( Sum of Absolute Transformed Difference)以及相邻块的预测模式之间的相关性等特征,预先排除了超
过65%可能性小的Intra_4 ×4模式,避免了不必要的计算,从而大幅度降低帧内预测的复杂度,同时
基本保持了H. 264 /AVC的编码性能。
关键词:视频编码;帧内预测;率失真优化
中图分类号: TP317. 4; TN919. 8　　文献标识码: A
Research of H. 264 /AVC intra2pred iction mode selection a lgor ithm
PE I Shi2bao,L IHou2qiang, YU Neng2hai
(Departm ent of Electronic Engineering and Inform ation Science, University of Science and Technology of China,
Hefei Anhui 230026, China)
Abstract: H. 264 /AVC emp loyed intra2p rediction technique in space domain to enhance coding efficiency, but it
increased p rediction comp lexity drastically because of quite a few intra2p rediction modes. A new Intra_4 ×4 mode selection
algorithm based on rate distortion op timization (RDO ) was p roposed. It emp loyed SATD ( Sum of Absolute Transform
Difference) of each block as a judgment and used correlation between p rediction modes of adjacent blocks to filter out more
than 65% less p robable modes beforehand so as to avoid unnecessary computations. The new algorithm reduces the intra2
p rediction comp lexity greatly while maintaining coding performance very well.
Key words: video coding; intra2p rediction; RDO (Rate Distortion Op timization)
0　引言
H. 264 /AVC是2003年5月ITU2T正式批准的新一代视频编码标准,与以前的视频编码标准相比,该标准的显著优点是压缩效率高、网络性能好,适用于交互和非交互应用环境,现已受到越来越广泛的关注。H. 264 /AVC性能的提高与它采用的一些新威廉希尔官方网站 密不可分,如新的帧内预测方法、整数变换、4 ×4块的运动估计/运动补偿、环路滤波、新的熵编码方法、率失真优化威廉希尔官方网站 (RDO)等。H. 264 /AVC在性能提高的同时,编码器的复杂度大幅度增加,很难应用于实时性要求较强的场合,因而研究有关快速算法具有重要意义。基于空间域的帧内预测是H. 264 /AVC采用的一项重要
新威廉希尔官方网站 ,它充分利用了图像的空间相关性,根据已解码的相邻块的信息来预测当前块的信息,对进一步提高编码的性能具有重要作用。H. 264 /AVC采用RDO威廉希尔官方网站 进行帧内预测模式选择,用最少的比特率获得了最好的编码效果, 但由于H. 264 /AVC支持的帧内预测模式很多,为了确定一个宏块(Macroblock, MB)的帧内预测模式,需要计算592种组合模式的RD代价(RD_Cost) ,所以编码器的复杂度很高[ 1 ]。从帧内预测的重要性和预测的复杂度可以看出,研究RDO模式下的快速帧内预测模式选择算法具有重要的应用价值。我们在文献[ 2 ]中提出了一种简单的快速帧内预测模式选择算法,本文在此基础上对帧内预测进行了深入研究,并对算法进行了改进和完善,取得了显著效果。新算法能预先排除超过65%可能性小的Intra_4 ×4模式,大幅度降低了帧内预测的复杂度,并且基本保持了H. 264 /AVC的编码性能,具有更好的适用性。
1　H. 264 /AVC的帧内预测模式[ 3 ]

以上,同时基本保持了H. 264 /AVC的编码性能,并且没有额外增加比特率。从4 ×4块RD_Cost函数的调用次数可以更清楚地看出,使用快速算法比H. 264 /AVC原算法平均减少65%以上的函数调用,并且算法的性能受QP值的影响较小。

0