【流媒體】H264—MP4格式及在MP4文件中提取H264的SPS、PPS及码流

不念不忘少年蓝@ 2022-08-09 14:49 199阅读 0赞

## 本文转载于：http://www.cnblogs.com/skyseraph/archive/2012/04/01/2429384.html ##

## 一、MP4格式基本概念 ##

MP4格式对应标准MPEG-4标准(ISO/IEC14496)

--------------------

## 二、MP4封装格式核心概念 ##

1  MP4封装格式对应标准为 ISO/IEC 14496-12（信息技术 视听对象编码的第12部分: ISO 基本媒体文件格式/Information technology Coding of audio-visual objects Part 12: ISO base media file format）

附\-- 标准免费下载： Freely Available Standards    [http://standards.iso.org/ittf/PubliclyAvailableStandards/index.html][http_standards.iso.org_ittf_PubliclyAvailableStandards_index.html]

2  MP4封装格式是基于QuickTime容器格式定义，媒体描述与媒体数据分开，目前被广泛应用于封装h.264视频和ACC音频，是高清视频/HDV的代表。

3  MP4文件中所有数据都封装在box中（对应QuickTime中的atom），即MP4文件是由若干个box组成，每个box有长度和类型，每个box中还可以包含另外的子box（称container box）。

一个MP4文件首先会有且只有一个“ftyp”类型的box，作为MP4格式的标志并包含关于文件的一些信息；之后会有且只有一个“moov”类型的box（Movie Box），它是一种container box，子box包含了媒体的metadata信息；MP4文件的媒体数据包含在“mdat”类型的box（Midia Data Box）中，该类型的box也是container box，可以有多个，也可以没有（当媒体数据全部引用其他文件时），媒体数据的结构由metadata进行描述。

4  MP4中box存储方式为大端模式。一般，标准的box开头会有四个字节的box size。

### 5 几个名词  ###

<table style="margin:0px; padding:0px; border-collapse:collapse; border-spacing:0px; border:1pt solid rgb(163,163,163); word-break:break-word; direction:ltr"> 
 <tbody style="margin:0px; padding:0px"> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.2in; vertical-align:top"> track </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:8.883in; vertical-align:top"> 表示一些sample的集合，对于媒体数据来说，track表示一个视频或音频序列。 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.2in; vertical-align:top"> hint track </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:8.883in; vertical-align:top"> 特殊的track，并不包含媒体数据，包含的是一些将其他数据track打包成流媒体的指示信息。 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.2in; vertical-align:top"> sample </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:8.883in; vertical-align:top"> 对于非hint &nbsp; track来说，video sample即为一帧视频，或一组连续视频帧，audio sample即为一段连续的压缩音频，它们统称sample。 对于hint &nbsp; track，sample定义一个或多个流媒体包的格式。 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.2in; vertical-align:top"> sample table </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:8.883in; vertical-align:top"> 指明sampe时序和物理布局的表。 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.2in; vertical-align:top"> chunk </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:8.883in; vertical-align:top"> 一个track的几个sample组成的单元。 </td> 
 </tr> 
 </tbody> 
</table>

--------------------

## 三、MP4封装格式结构图 ##

### 1 实例样本 ###

来源于Android MediaRecoder视频录制，平台为华为T8300和TCL968，用[mp4info][]查看如下：

![2012040120594049.png][]

### 用[EsEYE][]查看如下： ###

### ![2012040121034630.png][] ###

### 用[winhex][]分析如下： ###

![2012040121124916.png][]

### 2 box结构图 ###

![2012040121015676.png][]

接下来对h264编码中有用的几个进行阐述，其它不再描述。

### 3 ftyp（file type box） ###

如下图所示，开始的四字节**00 00 00 00 18**表示该box的size为24字节（含头），然后**66 74 79 70**是ftyp的BOX TYPE，其它是一些格式兼容等相关信息。

![2012040121094067.png][]

### 4  mdat ###

如下图所示，BOX YPE为6D 64 61 74 ，紧接着的00 00 09 39表示sliece长度

![2012040121134962.png][]

### 5 avcC ###

如下图所示，红色为BOX TYPE

![2012040121140242.png][]

--------------------

## 四、MP4文件中h264的 SPS、PPS获取 ##

1  【参考依据】ISO/IEC 14496-15 （下载）

2  【综述】在H264中，SPS和PPS存在于NALU header中，而在MP4文件中，SPS和PPS存在于AVCDecoderConfigurationRecord， 首先要定位avcC.

3  【定义】

①参数集：一组很少改变的，为大量VCL NALU 提供解码信息的数据。

序列参数集SPS作用于一系列连续的编码图像，而图像参数集PPS作用于编码视频序列中一个或多个独立的图像。

如果解码器没能正确接收到这两个参数集，那么其他NALU 也是无法解码的。因此它们一般在发送其它 NALU 之前发送，并且使用不同的信道或者更加可靠的传输协议（如TCP）进行传输，也可以重复传输。

②关于AVCDecoderConfigurationRecord结构定义为

![2012040121201350.png][]

4  【实例分析】 数据如上avcC图所示，现在对数据进行详细分析

![2012040121220056.png][]

所以，提取的SPS和PPS分别为67 42 00 1E A6 81 41 F9和68 CE 38 80

--------------------

## 五、MP4文件中的H264 data /NALU slice ##

1  【参考】H264官方文档（[下载][Link 1]） + 毕书—新一代视频压缩编码标准（[下载][Link 2]）

2  【综述】

**① **在MP4格式文件中，H264 slice并不是以00 00 00 01来作分割，而是存储在mdat box中。

**② ** H264基本码流由一些列的NALU组成。原始的NALU单元组成：\[start code\] + \[NALU header\] + \[NALU payload\]

<table style="margin:0px; padding:0px; border-collapse:collapse; border-spacing:0px; border:1pt solid rgb(163,163,163); word-break:break-word; direction:ltr"> 
 <tbody style="margin:0px; padding:0px"> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:0.996in; vertical-align:top"> start &nbsp; code </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:0.667in; vertical-align:top"> 1字节 </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.641in; vertical-align:top"> 00 00 01&nbsp;或&nbsp;00 00 00 01 </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.154in; vertical-align:top"> 需要添加的 </td> 
 </tr> 
 <tr style="margin:0px; padding:0px"> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:0.996in; vertical-align:top"> NALU header </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:0.667in; vertical-align:top"> 1字节 </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.641in; vertical-align:top"> 如下3 </td> 
 <td style="margin:0px; padding:4pt; border:1pt solid rgb(163,163,163); border-collapse:collapse; width:1.154in; vertical-align:top"> 通过mdat定位 </td> 
 </tr> 
 </tbody> 
</table>

**③ ** H264基本码流结构分两层：视频编码层VCL和网络适配层NAL，这样使信号处理和网路传输分离

3  【定义】 NALU header

\+---------------+

|0|1|2|3|4|5|6|7|

\+-+-+-+-+-+-+-+-+

|F|NRI| Type |

\+---------------+

![2012040121235325.png][]

特别的，当值为7和8分别为SPS和PPS。

毕书（[下载][Link 2]）（P191）上的定义为：

![2012040121242584.png][]

4  【实例分析】数据分析，数据如上图mdat所示

接下来的65就是NALU header，可以由65&0x1F来求的后五个bit，从而得知此slice为I frame

注意，mdat与silce之间有可能存在若干占位符，我在TCL手机测试时就出现了连续的00的占位符，这样后面用H264硬编码时会比较麻烦一点。

--------------------

## Ref/Related ##

1 相关资料和工具在文中链接下载

2 [http://www.52rd.com/Blog/wqyuwss/559/4/][http_www.52rd.com_Blog_wqyuwss_559_4]

3 [http://blog.csdn.net/szu030606/article/details/5943279][http_blog.csdn.net_szu030606_article_details_5943279]

4 [http://blog.csdn.net/k1988/article/details/5654631][http_blog.csdn.net_k1988_article_details_5654631]

5 [http://www.cppblog.com/czanyou/archive/2008/11/26/67940.html][http_www.cppblog.com_czanyou_archive_2008_11_26_67940.html]

6 [http://krdai.info/blog/sps-pps-in-mp4-format.html][http_krdai.info_blog_sps-pps-in-mp4-format.html]

7 [http://www.cnitblog.com/zouzheng/archive/2007/04/04/25155.html][http_www.cnitblog.com_zouzheng_archive_2007_04_04_25155.html]

8 [http://bbs.chinavideo.org/viewthread.php?tid=10273][http_bbs.chinavideo.org_viewthread.php_tid_10273]

[http_standards.iso.org_ittf_PubliclyAvailableStandards_index.html]: http://standards.iso.org/ittf/PubliclyAvailableStandards/index.html
[mp4info]: http://dl.dbank.com/c01jrsr9fq
[2012040120594049.png]: /images/20220731/c2588252e00e4a59abdff97edab8b293.png
[EsEYE]: http://dl.dbank.com/c0dnp0ne0j
[2012040121034630.png]: /images/20220731/84e8b3f94e044f40a0d4fd65562744c6.png
[winhex]: http://dl.dbank.com/c039tjw92a
[2012040121124916.png]: /images/20220731/6d3ddca6696f47559ea28ccabe862dea.png
[2012040121015676.png]: /images/20220731/bd365dcd671644dfac7360dccbcce09c.png
[2012040121094067.png]: /images/20220731/86e49a29e69c44c1b0300e2ccfa7f223.png
[2012040121134962.png]: /images/20220731/1e5bf5d6a38640c79eefefdb459fb5e3.png
[2012040121140242.png]: /images/20220731/131fbba4c03e4347b873f9080015ef7e.png
[2012040121201350.png]: /images/20220731/e43861a292764b8c80f49bcf84da5c2a.png
[2012040121220056.png]: /images/20220731/206eb2e1861c44b99c0fcd394c036e40.png
[Link 1]: http://dl.dbank.com/c0ng2niprl
[Link 2]: http://dl.dbank.com/c0fry4rukk
[2012040121235325.png]: /images/20220731/53741cc77dcd4b88979dfb045a016771.png
[2012040121242584.png]: /images/20220731/dd8c8c82a724477fbe9ca54ae645ca24.png
[http_www.52rd.com_Blog_wqyuwss_559_4]: http://www.52rd.com/Blog/wqyuwss/559/4/
[http_blog.csdn.net_szu030606_article_details_5943279]: http://blog.csdn.net/szu030606/article/details/5943279
[http_blog.csdn.net_k1988_article_details_5654631]: http://blog.csdn.net/k1988/article/details/5654631
[http_www.cppblog.com_czanyou_archive_2008_11_26_67940.html]: http://www.cppblog.com/czanyou/archive/2008/11/26/67940.html
[http_krdai.info_blog_sps-pps-in-mp4-format.html]: http://krdai.info/blog/sps-pps-in-mp4-format.html
[http_www.cnitblog.com_zouzheng_archive_2007_04_04_25155.html]: http://www.cnitblog.com/zouzheng/archive/2007/04/04/25155.html
[http_bbs.chinavideo.org_viewthread.php_tid_10273]: http://bbs.chinavideo.org/viewthread.php?tid=10273