● 摘要
HEVC高性能视频编码标准是目前正在制定中的视频编码新标准，它采用了多项新的编码技术，获得了比现有H.264/AVC标准更好的编码性能，但与此同时，HEVC的计算复杂度也大幅提升，成为制约其实际应用的瓶颈。因此，如何在不影响HEVC编码性能的前提下，降低编码的计算复杂度，以满足实际应用需求，已成为HEVC视频编码研究的关键问题之一。作为视频编码的核心模块之一，HEVC的变换部分和以前的视频编码标准主要有两点不同，这也是其时间复杂度提升的主要原因：一是支持4x4、8x8、16x16和32x32四种不同大小的DCT变换，并且变换矩阵更加复杂；二是采用了一种基于RQT（Residual Quad-Tree）即残差四叉树的变换单元大小选择技术，通过深度优先搜索和率失真优化（RDO）选择最优的变换单元大小。本文围绕HEVC中DCT变换单元的优化选择及其实现展开工作，主要研究内容包括以下三个方面：1. 针对帧间编码的DCT变换，综合考虑编码单元的大小和预测模式两个方面，提出了一种自适应变换单元搜索深度选择算法。该算法首先根据变换单元搜索深度对不同大小的编码单元（CU）影响程度的不同，对不同大小的编码单元所对应的残差块设定不同的RQT最大搜索深度。其次，对大小为32x32和16x16的编码单元，且预测单元（PU）的预测模式为2Nx2N，Nx2N和2NxN所对应的残差块，采用判别分析方法对其变换单元搜索深度进行自适应选择。采用本文的算法可以在不影响编码质量的前提下，平均节省11.40%的编码时间；2. 针对帧内编码的DCT变换，提出了一种变换单元的快速选择算法，该算法对预测模式选择过程进行更充分的变换单元选择，同时为了降低编码的时间复杂度减少了预测模式的候选集个数，并且对不同大小的预测单元设置不同的RQT搜索深度。采用本文算法可以平均减少21.02%的编码时间，同时平均的编码质量有所提高；3. 对DCT变换的具体实现过程进行了DSP上的线性汇编语言实现和代码级优化，与C语言实现相比，DCT变换时间平均可减少50%。