一、介绍

1. 为什么要进行视频压缩？

未经压缩的数字视频的数据量巨大
存储困难
一张DVD只能存储几秒钟未压缩的数字视频。
传输困难
1兆的带宽传输一秒的数字电视视频需要大约4分钟。

一分钟视频数据量

2. 为什么可以压缩？

去除冗余

空间冗余	图像相邻像素之间有较强的相关性
时间冗余	视频序列的相邻图像之间内容相似
编码冗余	不同像素值出现的概率不同
视觉冗余	人的视觉系统对某些细节不敏感
知识冗余	规律性的结构可由先验知识和背景知识得到

3. 数据压缩分类

无损压缩
🔹 压缩前解压缩后图像完全一致
🔹 压缩比低（2:1~3:1）

例如 WinZip，JPEG_LS
有损压缩
🔹 压缩前解压缩后图片不一致
🔹 压缩比高（10:1~20:1）
🔹 利用人的视觉系统的特征

例如：MPEG-2，H.264/AVC，AVS

视频压缩

4. 编解码器

编码器（Encoder）
○ 压缩信号的设备或程序
解码器（Decoder）
○ 解压缩信号的设备或程序
编解码器(Codec)
○ 编解码器对

5. 压缩系统的组成

编码器的关键技术

编码器
编解码中的关键技术

编解码器

6. 编解码器的实现

编解码器的实现平台：
🔹 超大规模集成电路VLSI
○ ASIC， FPGA
🔹 数字信号处理器DSP
🔹 软件
编解码器产品：
🔹 机顶盒
🔹 数字电视
🔹 摄像机
🔹 监控器

7. 视频编码标准

➰视频编码标准的作用：

兼容
不同厂家生产的编码器压缩的码流能够被不同厂家的解码器解码
高效
标准编解码器可以进行批量生产，节约成本。

➰主流的视频编码标准

MPEG-2
MPEG-4 Simple Profile
H.264/AVC
AVS
VC-1

➰标准化组织：

ITU：International Telecommunications Union
VECG：Video Coding Experts Group
ISO：International Standards Organization
MPEG：Motion Picture Experts Group

8. 视频传输

➰ 视频传输：通过传输系统将压缩的视频码流从编码端传输到解码端
➰ 传输系统：互联网，地面无线广播，卫星

9. 视频传输面临的问题

➰传输系统不可靠

带宽限制
信号衰减
噪声干扰
传输延迟

➰视频传输出现的问题

不能解码出正确的视频
视频播放延迟

10. 视频传输差错控制

➰ 差错控制（Error Control）解决视频传输过程中由于数据丢失或延迟导致的问题

➰ 差错控制技术：

信道编码差错控制技术
编码器差错恢复
解码器差错隐藏

11. 视频传输的QoS参数

数据包的端到端的延迟
带宽：比特/秒
数据包的流失率
数据包的延迟时间的波动

二、数字视频

1. 图像与视频

➰ 图像：是人对视觉感知的物质再现。

三维自然场景的对象包括：深度，纹理和亮度信息
二维图像：纹理和亮度信息

图像

➰ 视频：连续的图像。

视频由多幅图像构成，包含对象的运动信息，又称为运动图像。

视频采样

2. 数字视频

数字视频：自然场景空间和时间的数字采样表示。
- 空间采样
  - 解析度（Resolution）
- 时间采样
  - 帧率：帧/秒
    
    image

3. 空间采样

二维数字视频图像空间采样：

image

4. 数字视频系统

采集
○ 照相机，摄像机
处理
○ 编解码器，传输设备
显示
○ 显示器

采样--处理--显示

5. 人类视觉系统HSV

➰ HVS

眼睛
神经
大脑

HSV

➰ HVS特点：

对高频信息不敏感
对高对比度更敏感
对亮度信息比色度信息更敏感
对运动的信息更敏感

image

6. 数字视频系统的设计应该考虑HVS的特点：

丢弃高频信息，只编码低频信息
提高边缘信息的主观质量
降低色度的解析度
对感兴趣区域（Region of Interesting，ROI）进行特殊处理

image

7. RGB色彩空间

➰三原色：红（R），绿（G），蓝（B）。

➰任何颜色都可以通过按一定比例混合三原色产生。

➰RGB色度空间

由RGB三原色组成
广泛用于BMP，TIFF，PPM等
每个色度成分通常用8bit表示[0,255]

三原色

8. YUV色彩空间

➰ YUV色彩空间：

Y：亮度分量
UV：两个色度分量
YUV更好的反映HVS特点

9. RGB转化到YUV空间

主流的编解码标准的压缩对象都是YUV图像。
亮度分量Y与三原色有如下关系：
$Y=k_rR+k_gG+k_bB$
经过大量实验后ITU-R给出了:
$k_r=0.299 \ \ \ \ k_g=0.587 \ \ \ k_b=0.114$

YUV与RGB转化

10. YUV图像分量采样

YUV图像可以根据HVS的特点，对色度分量下采样，可以降低视频数据量。
根据亮度和色度分量的采样比率，YUV图像通常有以下几种格式：

YUV图像采样率

11. 通用的YUV图像格式

根据YUV图像的亮度分辨率定义图像格式

image

12. 帧和场图像

一帧图像包括两场——顶场，底场

image

image

13. 逐行与隔行图像

逐行图像：一帧图像的两场在同一时间得到，ttop=tbot。
隔行图像：一帧图像的两场在不同时间得到， ttop≠tbot。

image

14. 视频质量评价

有损视频压缩使编解码图像不同，需要一种手段来评价解码图像的质量。
质量评价：
客观质量评价
主观质量评价
基于视觉的视频质量客观评价
客观质量评价：通过数学方法测量图像质量评价的方式。
优点：
可量化
测量结果可重复
测量简单
缺点：
不完全符合人的主观感知

15. 客观评价的方法

常用的客观评价方法：

image

16. 主观评价方法

主观质量评价：用人的主观感知直接测量的方式。
优点：
符合人的主观感知
缺点：
不容易量化
受不确定因素影响，测量结果一般不可重复
测量代价高
常用主观评价方法

image

image

17. 基于视觉的视频质量客观评价方法

基于视觉的视频质量客观评价：将人的视觉特性用数学方法描述并用于视频质量评价的方式。
结合了主观质量评价和客观质量评价两方面优点。
常用方法：结构相似度（Structural SIMilarity，SSIM）方法。
将HVS的特征用数学模型表达出来。
未来重要的研究方向

三、信息论基础

1. 通信系统的组成

信源：产生消息
信道：传输消息
信宿：接收消息

image

2. 基本概念

通信中对信息的表达分为三个层次：信号，消息，信息。
- 信号：是信息的物理层表达，可测量，可描述，可显示。如电信号，光信号。
- 消息：是信息的载体，以文字，语言，图像等人类可以认知的形式表示。
- 信息：不确定的内容。

3. 信息熵

➰ 信息的特点：

image

➰ 信息的测量

💦自信息量

image

💦条件信息量

image

4. 信息熵

image

5. 条件熵和联合熵

image

6. 熵的性质

非负性：信源熵是非负值，即 H(X) >=0;
扩展性：信源熵X有M个符号，如果其中一个符号出现的概率趋于零，信源熵就等于剩余M-1个符号的信源熵；
极值性（最大信息熵）：对于具有M个符号的信源，只有在所有符号等概率出现的情况下，信源熵达到最大值，即
可加性：
熵不增：条件熵不大于信息熵 H(X|Y) <= H(X)；
联合熵不大于各信息熵的和，即H(XY) <= H(X) + H(Y)。

7. 互信息量

image

8. 互信息

image

物理意义：H(X)是X所含的信息，H(X|Y)是已知Y的条件下X还能带来的信息量。那么两者之差就是由于知道Y使得X减少的信息量，也即由Y可以得到的关于X的信息量。

9. 各种熵的关系

image

10. 信源编码

信源编码：将消息符号转变成信道可传输的信息。
两个基本问题：
用尽可能少的信道传输符号来传递信源消息，提高传输效率；
减少由于信道传输符号的减少导致的失真。

11. 离散信源统计特性

image

12. 离散信源类型：简单无记忆信源和马尔可夫信源

image

13. 编码分类

等长码：在一组码字集合C中的所有码字cm (m = 1,2, …,M)，其码长都相同，则称这组码C为等长码。
变长码：若码字集合C中的所有码字cm (m = 1,2, …,M)，其码长不都相同，称码C为变长码。

14. 平均码长

image

15. 等长码与变长码比较

等长编码将信源输出符号序列的任意一种取值（概率可能不同）都编码成相同长度的输出码字，没有利用信源的统计特性；
变长编码可以根据信源输出符号序列各种取值的概率大小不同，将他们编码成不同长度的输出码字，利用了信源的统计特性。因此又称其为熵编码。

16. Huffman编码

Huffman编码：典型的变长编码。
步骤：
1. 将信源符号按概率从大到小的顺序排列，假定p(x1)≥ p(x2)… ≥ p(xn)
2. 给两个概率最小的信源符号p(xn-1)， p(xn)各分配一个码位"0"和"1"，将这两个信源符号合并成一个新符号，并用这两个最小的概率之和作为新符号的概率，结果得到一个只包含(n-1)个信源符号的新信源。称为信源的第一次缩减信源，用S1表表示。
3. 将缩减信源S1的符号仍按概率从大到小的顺序排列，重复步骤2，得到只含(n-2)个符号的缩减信源S2。
4. 重复上述步骤，直至缩减信源只剩下两个符号为止，此时所剩两个符号的概率之和必为1。然后从最后一级缩减信源开始，依编码路径向前返回，就得到各信源符号所对应的码字。

image

17. 信道编码

信道编码主要考虑如何增加信号的抗干扰能力，提高传输的可靠性，并且提高传输效率。
一般是采用冗余编码法，赋予信码自身一定的纠错和检错能力，使信道传输的差错概率降到允许的范围之内。

18. 信道类型

根据信道连续与否分类

离散信道
连续信道
半连续信道
根据信道是否有干扰分类

无干扰信道
有干扰信道
根据信道的统计特性分类

无记忆信道
有记忆信道
恒参信道
变参信道
对称信道
非对称信道

19. 信道容量

在信息论中，称信道无差错传输的最大信息速率为信道容量。
香农信道容量公式：
💦假设连续信道的加性高斯白噪声功率为N，信道带宽为B，信号功率为S，则该信道的容量为
$C=Blog_2(1+\frac{S}{N})$
💦由于噪声功率N与信道带宽B有关，则噪声功率N=n0B 。因此，香农公式还可以表示为：
$C=Blog_2(1+\frac{S}{n_oB})$

20. 香农信道容量公式的意义

在给定B和S/N的情况下，信道的极限传输能力为C，而且此时能够做到无差错传输。如果信道的实际传输速率大于C 值，则无差错传输在理论上就已不可能。因此，实际传输速率一般不能大于信道容量C ，除非允许存在一定的差错率。
提高信噪比S/N（通过减小n0或增大S），可提高信道容量C。特别是，若n0->0，则C->∞ ，这意味着无干扰信道容量为无穷大；
增加信道带宽B，也可增加信道容量C，但做不到无限制地增加。这是因为，如果 S、n0一定，有
$limC=\frac{S}{n_0}log_2e≈1.44\frac{S}{n_0}$
维持同样大小的信道容量，可以通过调整信道的B及S/N来达到，即信道容量可以通过系统带宽与信噪比的互换而保持不变。

21. 失真

失真：信源的消息经过编解码后不能完全复原
在实际的信源和信道编码中，消息的传输并不总是无失真的。
1.由于存储和传输资源的限制
1. 噪声等因素的干扰

22. 率失真理论

香农定义了信息率失真函数R(D)

D是消息失真
R是码率
率失真定理：在允许一定失真度D的情况下，信源输出的信息率可压缩到R(D)。

23. 失真函数

失真函数：信源符号 $X=\{x_1, x_2, ...x_n\}$ ，经信道传输接收端符号 $Y=\{y_1, y_2,...y_n\}$ ，对于每一对 $(x_i, y_j)$ 指定一个非负函数 $d(x_i, y_j)$ ，称 $d(x_i, y_j)$ 为单个符号的失真度或失真函数。对于连续信源连续信道的情况，常用 $d(x, y)$ 表示。
常用失真函数：

image
平均失真度：

image

OpenCV视频篇——视频编解码：理论基础

一、介绍

1. 为什么要进行视频压缩？

2. 为什么可以压缩？

3. 数据压缩分类

4. 编解码器

5. 压缩系统的组成

6. 编解码器的实现

7. 视频编码标准

8. 视频传输

9. 视频传输面临的问题

10. 视频传输差错控制

11. 视频传输的QoS参数

二、数字视频

1. 图像与视频

2. 数字视频

3. 空间采样

4. 数字视频系统

5. 人类视觉系统HSV

6. 数字视频系统的设计应该考虑HVS的特点：

7. RGB色彩空间

8. YUV色彩空间

9. RGB转化到YUV空间

10. YUV图像分量采样

11. 通用 的YUV图像格式

12. 帧和场图像

13. 逐行与隔行图像

14. 视频质量评价

15. 客观评价的方法

16. 主观评价方法

17. 基于视觉的视频质量客观评价方法

三、信息论基础

1. 通信系统的组成

2. 基本概念

3. 信息熵

4. 信息熵

5. 条件熵和联合熵

6. 熵的性质

7. 互信息量

8. 互信息

9. 各种熵的关系

10. 信源编码

11. 离散信源统计特性

12. 离散信源类型：简单无记忆信源和马尔可夫信源

13. 编码分类

14. 平均码长

15. 等长码与变长码比较

16. Huffman编码

17. 信道编码

18. 信道类型

19. 信道容量

20. 香农信道容量公式的意义

21. 失真

22. 率失真理论

23. 失真函数

11. 通用的YUV图像格式