一种联合编码前滤波的自适应量化参数调整方法

本发明属于数字高清视频编解码，具体涉及一种联合编码前滤波的自适应量化参数调整方法。

背景技术：

1、为了进一步提升视频编解码器的压缩效率，编码前滤波以及自适应量化参数(qp)调整等技术被提出。上述方法不需要修改解码器，能够适用于多种标准的编码器，因为它们不需要修改解码器。编码前滤波技术旨在对待编码的视频进行背景模糊，边缘锐化以及噪声去除等操作，提升该视频编码后的客观或主观质量。而自适应量化技术旨在为正在编码的视频中的不同帧，以及一帧中的不同编码单元(cu)设置不同的qp，以提升压缩效率。

2、最新颖的编码前滤波技术名为基于图像组的时域滤波(gbtf)，其已经被应用于高效率视频编码(hevc)标准以及多功能编解码(vvc)标准的参考软件当中。gbtf以图像组(gop)为单位在编码前对待编码视频进行时域块匹配，并根据匹配结果进行双边滤波，利于编码器对滤波后的视频进行帧间预测。但由于编码器的量化过程将引入量化损失，经gbtf滤波后的原始像素与经过编码的重建像素间将存在区别，该区别将导致gbtf的算法效果遭受损失。除本发明外，目前未见有从调整自适应量化参数调整的角度优化gbtf的算法报道。

技术实现思路

1、本发明的目的在于提供一种联合编码前滤波的自适应量化参数调整方法，以优化gbtf算法，提升编码器的效率。

2、本发明针对编码过程中量化损失导致的gbtf压缩效率损失问题，引入自适应量化参数调整技术，在显著提升编码器的压缩效率的同时，对gbtf的计算结果进行复用，以极低的额外算法复杂度实现自适应量化参数调整。

3、本发明提供的联合编码前滤波的自适应量化参数调整方法，依托于一个包含gbtf技术的软件视频编解码平台。本发明涉及的编码器系统的顶层框图如图1所示。包括基于图像组的时域滤波模块、自适应量化模块、编码器；其中：待编码视频的原始像素输入到基于图像组的时域滤波模块，经时域滤波模块处理，输出滤波像素，输入到编码器；同时，待编码视频的原始像素输入到自适应量化模块，时域滤波模块输出其时域块匹配过程中产生的匹配误差，输入到自适应量化模块；自适应量化模块将输入的原始像素与匹配误差进行处理，输出调整后的量化参数，并输入到编码器；编码器对输入滤波像素与量化参数进行编码，输出编码码流。

4、其中，时域滤波模块的处理内容包括：基于运动估计的时域块匹配计算、滤波权重计算、双边滤波计算；自适应量化模块包括：帧内/帧外相似度计算、帧间预测类型判断、编码单元级参数量化计算。参见图2所示。

5、本发明并未对基于图像组的时域滤波部分进行修改(即使用现有技术)[1]，只是复用其时域块匹配过程中产生的匹配误差用于自适应量化参数调整当中，以降低本发明所需的运算复杂度。如图2所示，自适应量化模块中计算步骤如下：

6、步骤一、帧内/帧外相似度计算，即输入为原始像素，输出为帧内相似度，具体流程为：

7、以最大编码单元(lcu)为单位，遍历输入的原始图像的亮度通道，lcu的大小与编码器的配置相同；

8、对于每一个lcu，将其划分为大小为8x8的块，计算每一个8x8块的梯度：

9、

10、其中，gb表示8x8块级的梯度，ox,y表示块内坐标为x,y的原始像素。

11、使用一个lcu下所有8x8块的梯度的平均值，作为当前lcu的梯度，记为gc；

12、使用一个lcu的梯度计算其帧内相似度：

13、

14、其中，cintra为帧内相似度；γ是超参数，对于hevc标准的编码器，γ取4.5，对于vvc标准的编码器，γ取5.1；μ是超参数，对于hevc标准，μ取1.5，对于vvc标准，μ取1.0。

15、在进行帧内相似度计算时，其输入为8x8块级匹配误差，输出为帧间相似度：

16、gbtf以8x8块为单位进行块匹配，衡量块匹配的误差是原始像素与匹配像素的均方误差(mse)，即本发明从gbtf中提取一帧中每个8x8块的mse。

17、使用一个lcu下所有8x8块的mse的平均值，作为当前lcu的mse。

18、利用mse计算psnr(峰值信噪比)，将每个lcu的psnr作为其帧间相似度cinter。

19、步骤二、帧间预测类型判断，具体流程为：

20、在进行帧间预测类型判断时，其输入为lcu的帧间相似度与帧内相似度，输出为lcu级预测类型。

21、如果当前lcu的帧内相似度高于帧间相似度，则认为其应采用帧内预测，否则认为其应采用帧间预测。

22、步骤三、编码单元级量化参数计算，具体流程为：

23、如果当前lcu在步骤二中被认为采用帧间预测，则使用以下公式计算其qp偏置：

24、

25、α是超参数，对于hevc标准的编码器，α取0.8；对于vvc标准的编码器，α取1.2。

26、当前lcu的最终qp按照如下公式计算：

27、qp＝qpframe+δqp，                                  (4)

28、其中，qpframe表示当前待编码帧使用的帧级量化参数，由编码器使用的配置文件决定，而lcu级量化参数qp则等于其所属帧使用的帧级量化参数与本发明计算出的lcu级量化参数偏置δqp之和。

29、实验证明，本发明在hevc标准的参考软件hm18.0上仅增加0.4％的编码时间，提升7.6％(使用ssim衡量)或3.5％(使用psnr衡量)的压缩效率。在vtm19.0软件平台上，本发明能够提升4.0％(使用ssim衡量)或2.0％(使用psnr衡量)的压缩效率。

技术特征：

1.一种联合编码前滤波的自适应量化参数调整方法，其特征在于，依托于一个包含gbtf技术的软件视频编解码平台，包括基于图像组的时域滤波模块、自适应量化模块、编码器；其中：待编码视频的原始像素输入到基于图像组的时域滤波模块，经时域滤波模块处理，输出滤波像素，输入到编码器；同时，待编码视频的原始像素输入到自适应量化模块，时域滤波模块输出其时域块匹配过程中产生的匹配误差，输入到自适应量化模块；自适应量化模块将输入的原始像素与匹配误差进行处理，输出调整后的量化参数，并输入到编码器；编码器对输入滤波像素与量化参数进行编码，输出编码码流。

2.根据权利要求1所述的联合编码前滤波的自适应量化参数调整方法，其特征在于，时域滤波模块的处理内容包括：基于运动估计的时域快匹配计算、滤波权重计算、双边滤波计算；自适应量化模块处理内容包括：帧内/帧外相似度计算、帧间预测类型判断、编码单元级参数量化计算；其中基于图像组的时域滤波的部分为现有技术，这里只是复用其时域块匹配过程中产生的匹配误差用于自适应量化参数调整当中；自适应量化模块中计算步骤如下：

3.根据权利要求2所述的联合编码前滤波的自适应量化参数调整方法，其特征在于，参数γ，μ的取值如下：对于hevc标准的编码器，γ取4.5，μ取1.5；对于vvc标准的编码器，γ取5.1，μ取1.0。

4.根据权利要求2所述的联合编码前滤波的自适应量化参数调整方法，其特征在于，参数α的取值如下：对于hevc标准的编码器，α取0.8；对于vvc标准的编码器，α取1.2。

技术总结
本发明属于数字高清视频编解码技术领域，具体为一种联合编码前滤波的自适应量化参数调整方法。本发明依托于包含GBTF的软件视频编解码平台，包括基于图像组的时域滤波模块、自适应量化模块、编码器；原始像素输入时域滤波模块，经时域滤波模块处理输出的滤波像素输入编码器；同时，原始像素输入自适应量化模块，时域滤波模块输出其时域块匹配过程中产生的匹配误差输入到自适应量化模块；自适应量化模块将输入的原始像素与匹配误差进行处理，输出调整后的量化参数，并输入编码器；编码器对输入滤波像素与量化参数进行编码，输出编码码流。实验证明，本发明在HEVC标准的参考软件HM上和在VTM19.0软件平台上能够有效提升编码器的压缩效率。

技术研发人员：范益波,何陈龙,荆明娥
受保护的技术使用者：复旦大学
技术研发日：
技术公布日：2024/12/5