摘要：本文首先对数字视频编码和H.264/AVC标准进行了简要介绍，然后分析了H.264/AVC的帧间、帧内预测编码原理。H.264/AVC采用多模式的帧间、帧内预测编码方法，通过引进代价函数对多种模式进行计算选择，从多种编码模式中找出最优模式。多模式的运动估计和模式选择方法在不降低码率的条件下，满足了画面质量最佳的要求，但也使得编码具有较高的复杂度，并导致编码效率降低。若能够在编码前先 对模式进行选择，可降低编码的复杂程度。因此本文重点研究了H.264/AVC标准在其测试模型中的快速模式选择方法。

JM是H.264/AVC的测试模型，具有较多测试版本。本文选择了典型的JM8.6测试版本，对H.264标准中的帧间预测中的模式选择进行了研究，并且通过对比JM6.1代码，研究H.264帧间预测快速模式选择的原理，以及快速选择的方法。通过详细比对代码，分析实验测试，分析了两种编码方式所带来的编码效果改变。

关键词：帧间模式选择；H.264；JM8.6

目录

摘要

ABSTRACT

1 引言-1

2 视频编码概述-2

2.1视频压缩解码概述-2

2.1.1有损和无损压缩-2

2.1.2 帧内和帧间压缩-2

2.1.3 对称和不对称编码-2

2.2 H.264概述-3

2.3 H.264编解码器框架图-3

2.3.1 H.264编码器框架图-3

2.3.2 H.264解码器框架图-4

2.4 H.264预测编码概述-5

2.4.1 帧内预测编码-5

2.4.2 帧间预测编码-5

3  H.264帧间模式选择方法-7

3.1 率失真优化的模式选择-7

3.2代价函数-8

3.3 H.264中的帧间模式选择算法-9

4 基于JM6.1模式选择方案-10

4.1 JM6.1概述-10

4.2 JM6.1帧间预测调用图-10

4.2 JM6.1帧间预测核心代码分析-11

4.2.1 设置拉格朗日参数-11

4.2.2 帧间选择亚宏块模式选择-12

4.2.3 宏块级模式运动估计-12

5模式选择改进--JM8.6-15

5.1 JM8.6模式选择流程图-15

5.2 JM8.6帧间预测核心代码分析-16

5.2.1帧间三种帧间宏块级模式（16*16,16*8,8*16）循环，进行择优-16

5.2.2计算在三种模式下每一个块进行计算最佳代价-16

5.2.3参考帧择优-16

5.2.4帧间亚宏块模式（P8*8模式）-17

5.2.5 运动搜索-18

6 结果研究-19

6.1 运行结果-19

6.1.1 JM6.1测试结果-19

6.1.2 JM8.6运行结果-20

6.2测试结果分析-22

结论-26

致谢-27

参考文献-28