摘要: 变换编码是视频编码的核心技术之一，通过变换可以有效地去除图像数据间的空间冗余。从能量集中的角度，KLT变换是最优的变换，但由于其信号依赖性，很难应用在实际编码系统中。DCT变换具有很好的能量集中特性，并且实现简单，早已被广泛地应用到各种类型的编码标准中，如MPEG-1，MPEG-2，MPEG-4，H.263等，但浮点DCT变换由于浮点舍入精度的问题会产生编解码失配。在H.264/MPEG-4 AVC，AVS等新型视频编码标准中，用整数变换替换了传统的浮点DCT变换。与浮点DCT相比，整数变换具有较低的计算复杂度、编解码完全匹配等优点，同时量化与变换的归一化相结合，可以通过乘法和移位来实现量化，也降低了量化的计算复杂度。AVS是国内最新制定的数字音视频编码标准，其中视频编码根据应用的不同划分成两部分，即第二部分和第七部分，分别称为AVS1-P2, AVS1-P7。AVS1-P2主要面向高分辨率、高码率的应用场景，如数字电视广播等，而AVS1-P7则主要面向低分辨率、低码率的应用场景，如流媒体，IPTV等。在AVS1-P2基本数据处理是基于8×8的划分块，而在AVS1-P7中，则是基于4×4块进行处理。对此本文提出一种低复杂度4×4整数变换，并为AVS1-P7所接受，它继承了AVS1-P2中的8×8变换的优点，即变换矩阵每行的模十分接近，可以通过在编码端进行归一化来降低解码端反量化实现的存储复杂度，并可以和AVS1-P2共用同一量化/反量化表。从与DCT失真的角度分析该4×4变换与H.264/ MPEG-4 AVC中的4×4变换具有相同的失真度，并且也可以通过加法和移位实现整个变换过程，并且所有运算都能在16位精度内完成。实验数据表明本变换矩阵与H.264/ MPEG-4 AVC中的4×4变换具有相近或略好的编码性能。本文还结合变换特性进行了适应性量化研究，提高了编码效率。由于解码端对变换的归一化是在编码端完成的，可以看作对变换系数进行了不均匀的缩放，这种不均匀缩放量化后会降低编码效率，对此可以通过适应性量化机制来提高编码效率，在本文中采用适应性Dead-zone量化机制，并提供一种搜索Dead-zone的方法，实验结果表明适应性量化不仅能提高编码效率还能得到较好的主观效果。本文组织结构如下：第一部分简单介绍整数变换，第二部分详细介绍H.264/MPEG-4 AVC中的整数变换量化机制以及AVS1-P2中新型的低复杂度整数变换，第三部分介绍本文中提出的低复杂度整数变换，包括变换量化原理、复杂度分析以及适应性量化研究，第四部分为实验数据，最后第五部分为结论。