● 摘要
为了适应人们对高帧率、高清晰度视频的更多需求，国际电联ITU-T和国际标准化组织ISO联合制定了新一代视频编码标准HEVC（High Efficiency Video Coding）。HEVC比现有编码标准H.264具有更好的编码性能，但是大幅提升的编码复杂度成为其实时应用的瓶颈。作为视频编码的核心模块之一，变换量化模块在HEVC中主要引入了变换跳过模式和率失真优化量化等编码工具，通过对变换模式更全面的分析以及将量化后系数进行率失真优化的方法，提高视频编码质量，但是时间复杂度也大幅增加。
针对HEVC变换量化模块的优化问题以及实现基于DSP平台实时编码器的需要，本文研究的主要工作包括以下三个方面：
提出了基于阈值判断的变换跳过模式快速选择算法。变换跳过模式能提高编码
质量，特别是对平滑的屏幕显示序列能起到较好的编码效果，但是作为一种新增加的模式，需要经历整个编码过程，耗时较多。本文首先针对变换跳过模式的性能和特点进行分析，最终使用率失真代价的平方根作为阈值进行提前判断，然后建立了量化参数与阈值之间的指数模型。最终可以通过量化参数计算得到对应阈值，提前判断是否可以提前跳过变换跳过模式。实验结果表明，采用本章算法可以在几乎不影响质量的情况下，平均可减少65%以上的变换跳过模式的编码耗时；
对率失真优化量化算法进行了优化。率失真优化量化算法使用率失真代价作为
标准对标量量化后的结果进行进一步率失真优化，降低由于量化造成的视频质量下降，但是由于HEVC采用的迭代四叉树编码结构以及该算法中大量的率失真代价计算，因此该算法耗时较多。首先，本文通过分析率失真优化量化算法对编码器的影响，提出在残差四叉树的划分过程中使用标量量化代替率失真优化量化的方法，去除率失真优化量化算法的冗余调用，同时利用频域和空域失真的关系减少反变换和反量化的次数。其次，通过跳过标量量化后全零子系数块的率失真优化量化，降低了率失真优化量化算法本身的复杂度。实验结果表明，采用本文算法可以平均减少34%的率失真优化量化的时间，同时编码质量几乎不变；
针对DSP平台的特点对HEVC编码器的核心模块进行了并行化加速。首先对
DSP平台的特点进行介绍，然后详细分析了线性汇编实现过程中常见问题和解决方法，并结合HEVC中变换、量化及插值等具体情况进行了优化，普遍取得了2-5倍的加速。