mp4文件格式解析

r囧r小猫 2022-04-08 13:57 456阅读 0赞

目前MP4的概念被炒得很火，也很乱。最开始MP4指的是音频（MP3的升级版），即MPEG-2 AAC标准。随后MP4概念被转移到视频上，对应的是MPEG-4标准。而现在我们流行的叫法，多半是指能播放MPEG-4标准编码格式视频的播放器。但是这篇文章介绍的内容跟上面这些都无关，我们要讨论的是MP4文件封装格式，对应的标准为ISO/IEC 14496-12，即信息技术 视听对象编码的第12部分：ISO 基本媒体文件格式（Information technology Coding of audio-visual objects Part 12: ISO base media file format）。ISO/IEC组织指定的标准一般用数字表示，ISO/IEC 14496即MPEG-4标准。

MP4视频文件封装格式是基于QuickTime容器格式定义的，因此参考QuickTime的格式定义对理解MP4文件格式很有帮助。MP4文件格式是一个十分开放的容器，几乎可以用来描述所有的媒体结构，MP4文件中的媒体描述与媒体数据是分开的，并且媒体数据的组织也很自由，不一定要按照时间顺序排列，甚至媒体数据可以直接引用其他文件。同时，MP4也支持流媒体。MP4目前被广泛用于封装h.264视频和AAC音频，是高清视频的代表。

现在我们就来看看MP4文件格式到底是什么样的。

**1、概述**

MP4文件中的所有数据都装在box（QuickTime中为atom）中，也就是说MP4文件由若干个box组成，每个box有类型和长度，可以将box理解为一个数据对象块。box中可以包含另一个box，这种box称为container box。一个MP4文件首先会有且只有一个“ftyp”类型的box，作为MP4格式的标志并包含关于文件的一些信息；之后会有且只有一个“moov”类型的box（Movie Box），它是一种container box，子box包含了媒体的metadata信息；MP4文件的媒体数据包含在“mdat”类型的box（Midia Data Box）中，该类型的box也是container box，可以有多个，也可以没有（当媒体数据全部引用其他文件时），媒体数据的结构由metadata进行描述。

下面是一些概念：

***track*** 表示一些sample的集合，对于媒体数据来说，track表示一个视频或音频序列。

***hint track*** 这个特殊的track并不包含媒体数据，而是包含了一些将其他数据track打包成流媒体的指示信息。

***sample*** 对于非hint track来说，video sample即为一帧视频，或一组连续视频帧，audio sample即为一段连续的压缩音频，它们统称sample。对于hint track，sample定义一个或多个流媒体包的格式。

***sample table*** 指明sampe时序和物理布局的表。

***chunk*** 一个track的几个sample组成的单元。

在本文中，我们不讨论涉及hint的内容，只关注包含媒体数据的本地MP4文件。下图为一个典型的MP4文件的结构树。

![20181218144738941][]

**2、Box**

首先需要说明的是，box中的字节序为网络字节序，也就是大端字节序（Big-Endian），简单的说，就是一个32位的4字节整数存储方式为高位字节在内存的低端。Box由header和body组成，其中header统一指明box的大小和类型，body根据类型有不同的意义和格式。

标准的box开头的4个字节（32位）为box size，该大小包括box header和box body整个box的大小，这样我们就可以在文件中定位各个box。如果size为1，则表示这个box的大小为large size，真正的size值要在largesize域上得到。（实际上只有“mdat”类型的box才有可能用到large size。）如果size为0，表示该box为文件的最后一个box，文件结尾即为该box结尾。（同样只存在于“mdat”类型的box中。）

size后面紧跟的32位为box type，一般是4个字符，如“ftyp”、“moov”等，这些box type都是已经预定义好的，分别表示固定的意义。如果是“uuid”，表示该box为用户扩展类型。如果box type是未定义的，应该将其忽略。

**3、File Type Box（ftyp）**

该box有且只有1个，并且只能被包含在文件层，而不能被其他box包含。该box应该被放在文件的最开始，指示该MP4文件应用的相关信息。

“ftyp” body依次包括1个32位的major brand（4个字符），1个32位的minor version（整数）和1个以32位（4个字符）为单位元素的数组compatible brands。这些都是用来指示文件应用级别的信息。该box的字节实例如下：

![20181218144738960][]

4、Movie Box（moov）

该box包含了文件媒体的metadata信息，“moov”是一个container box，具体内容信息由子box诠释。同File Type Box一样，该box有且只有一个，且只被包含在文件层。一般情况下，“moov”会紧随“ftyp”出现。

一般情况下（限于篇幅，本文只讲解常见的MP4文件结构），“moov”中会包含1个“mvhd”和若干个“trak”。其中“mvhd”为header box，一般作为“moov”的第一个子box出现（对于其他container box来说，header box都应作为首个子box出现）。“trak”包含了一个track的相关信息，是一个container box。下图为部分“moov”的字节实例，其中红色部分为box header，绿色为“mvhd”，黄色为一部分“trak”。

![20181218144738977][]

**4.1 Movie Header Box（mvhd）**

“mvhd”结构如下表。

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> 字段 </td> 
 <td style="vertical-align:top;"> 字节数 </td> 
 <td style="vertical-align:top;"> 意义 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> box size </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> box大小 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> box type </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> box类型 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> version </td> 
 <td style="vertical-align:top;"> 1 </td> 
 <td style="vertical-align:top;"> box版本，0或1，一般为0。（以下字节数均按version=0） </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> flags </td> 
 <td style="vertical-align:top;"> 3 </td> 
 <td style="vertical-align:top;"> &nbsp; </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> creation time </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 创建时间（相对于UTC时间1904-01-01零点的秒数） </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> modification time </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 修改时间 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> time scale </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 文件媒体在1秒时间内的刻度值，可以理解为1秒长度的时间单元数 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> duration </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 该track的时间长度，用duration和time scale值可以计算track时长，比如audio track的time scale = 8000, duration = 560128，时长为70.016，video track的time scale = 600, duration = 42000，时长为70 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> rate </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 推荐播放速率，高16位和低16位分别为小数点整数部分和小数部分，即[16.16] 格式，该值为1.0（0x00010000）表示正常前向播放 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> volume </td> 
 <td style="vertical-align:top;"> 2 </td> 
 <td style="vertical-align:top;"> 与rate类似，[8.8] 格式，1.0（0x0100）表示最大音量 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> reserved </td> 
 <td style="vertical-align:top;"> 10 </td> 
 <td style="vertical-align:top;"> 保留位 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> matrix </td> 
 <td style="vertical-align:top;"> 36 </td> 
 <td style="vertical-align:top;"> 视频变换矩阵 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> pre-defined </td> 
 <td style="vertical-align:top;"> 24 </td> 
 <td style="vertical-align:top;"> &nbsp; </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> next track id </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 下一个track使用的id号 </td> 
 </tr> 
 </tbody> 
</table>

“mvhd”的字节实例如下图，各字段已经用颜色区分开：

![20181218144738993][]

**4.2 Track Box（trak）**

“trak”也是一个container box，其子box包含了该track的媒体数据引用和描述（hint track除外）。一个MP4文件中的媒体可以包含多个track，且至少有一个track，这些track之间彼此独立，有自己的时间和空间信息。“trak”必须包含一个“tkhd”和一个“mdia”，此外还有很多可选的box（略）。其中“tkhd”为track header box，“mdia”为media box，该box是一个包含一些track媒体数据信息box的container box。

“trak”的部分字节实例如下图，其中黄色为“trak”box的头，绿色为“tkhd”，蓝色为“edts”（一个可选box），红色为一部分“mdia”。

![2018121814473913][]

**4.2.1 Track Header Box（tkhd）**

“tkhd”结构如下表。

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;"> 字段 </td> 
 <td style="vertical-align:top;"> 字节数 </td> 
 <td style="vertical-align:top;"> 意义 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> box size </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> box大小 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> box type </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> box类型 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> version </td> 
 <td style="vertical-align:top;"> 1 </td> 
 <td style="vertical-align:top;"> box版本，0或1，一般为0。（以下字节数均按version=0） </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> flags </td> 
 <td style="vertical-align:top;"> 3 </td> 
 <td style="vertical-align:top;"> 按位或操作结果值，预定义如下： 0x000001 track_enabled，否则该track不被播放； 0x000002 track_in_movie，表示该track在播放中被引用； 0x000004 track_in_preview，表示该track在预览时被引用。 一般该值为7，如果一个媒体所有track均未设置track_in_movie和track_in_preview，将被理解为所有track均设置了这两项；对于hint track，该值为0 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> creation time </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 创建时间（相对于UTC时间1904-01-01零点的秒数） </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> modification time </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 修改时间 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> track id </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> id号，不能重复且不能为0 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> reserved </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 保留位 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> duration </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> track的时间长度 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> reserved </td> 
 <td style="vertical-align:top;"> 8 </td> 
 <td style="vertical-align:top;"> 保留位 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> layer </td> 
 <td style="vertical-align:top;"> 2 </td> 
 <td style="vertical-align:top;"> 视频层，默认为0，值小的在上层 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> alternate group </td> 
 <td style="vertical-align:top;"> 2 </td> 
 <td style="vertical-align:top;"> track分组信息，默认为0表示该track未与其他track有群组关系 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> volume </td> 
 <td style="vertical-align:top;"> 2 </td> 
 <td style="vertical-align:top;"> [8.8] 格式，如果为音频track，1.0（0x0100）表示最大音量；否则为0 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> reserved </td> 
 <td style="vertical-align:top;"> 2 </td> 
 <td style="vertical-align:top;"> 保留位 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> matrix </td> 
 <td style="vertical-align:top;"> 36 </td> 
 <td style="vertical-align:top;"> 视频变换矩阵 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> width </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 宽 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;"> height </td> 
 <td style="vertical-align:top;"> 4 </td> 
 <td style="vertical-align:top;"> 高，均为 [16.16] 格式值，与sample描述中的实际画面大小比值，用于播放时的展示宽高 </td> 
 </tr> 
 </tbody> 
</table>

“tkhd”的字节实例如下图，各字段已经用颜色区分开：

![2018121814473933][]

**4.2.2 Media Box（mdia）**

“mdia”也是个container box，其子box的结构和种类还是比较复杂的。先来看一个“mdia”的实例结构树图。

![2018121814473949][]![1177848-20171124103840531-577416768.jpg][]

总体来说，“mdia”定义了track媒体类型以及sample数据，描述sample信息。一般“mdia”包含一个“mdhd”，一个“hdlr”和一个“minf”，其中“mdhd”为media header box，“hdlr”为handler reference box，“minf”为media information box。下面依次看一下这几个box的结构。

**4.2.2.1 Media Header Box（mdhd）**

“mdhd”结构如下表。

“mdhd”的字节实例如下图，各字段已经用颜色区分开：

![2018121814473964][]

**4.2.2.2 Handler Reference Box（hdlr）**

“hdlr”解释了媒体的播放过程信息，该box也可以被包含在meta box（meta）中。“hdlr”结构如下表。

“hdlr”的字节实例如下图，各字段已经用颜色区分开：

![2018121814473987][]

**4.2.2.3 Media Information Box（minf）**

“minf”存储了解释track媒体数据的handler-specific信息，media handler用这些信息将媒体时间映射到媒体数据并进行处理。“minf”中的信息格式和内容与媒体类型以及解释媒体数据的media handler密切相关，其他media handler不知道如何解释这些信息。“minf”是一个container box，其实际内容由子box说明。

一般情况下，“minf”包含一个header box，一个“dinf”和一个“stbl”，其中，header box根据track type（即media handler type）分为“vmhd”、“smhd”、“hmhd”和“nmhd”，“dinf”为data information box，“stbl”为sample table box。下面分别介绍。

下图为“minf”部分字节实例，其中红色为box header，蓝色为“smhd”，绿色为“dinf”，黄色为一部分“stbl”。

![20181218144739107][]

**4.2.2.3.1 Media Information Header Box（vmhd、smhd、hmhd、nmhd）**

***Video Media Header Box（vmhd）***

***Sound Media Header Box（smhd）***

***Hint Media Header Box（hmhd）***

略

***Null Media Header Box（nmhd）***

非视音频媒体使用该box，略。

**4.2.2.3.2 Data Information Box（dinf）**

“dinf”解释如何定位媒体信息，是一个container box。“dinf”一般包含一个“dref”，即data reference box；“dref”下会包含若干个“url”或“urn”，这些box组成一个表，用来定位track数据。简单的说，track可以被分成若干段，每一段都可以根据“url”或“urn”指向的地址来获取数据，sample描述中会用这些片段的序号将这些片段组成一个完整的track。一般情况下，当数据被完全包含在文件中时，“url”或“urn”中的定位字符串是空的。

“dref”的字节结构如下表。

“url”或“urn”都是box，“url”的内容为字符串（location string），“urn”的内容为一对字符串（name string and location string）。当“url”或“urn”的box flag为1时，字符串均为空。

下面是一个“dinf”的字节实例图。其中黄色为“dinf”的box header，由红色部分我们知道包含的“url”或“urn”个数为1，红色后面为“url”box的内容。紫色为“url”的box header（根据box type我们知道是个“url”），绿色为box flag，值为1，说明“url”中的字符串为空，表示track数据已包含在文件中。

![20181218144739125][]

4.2.2.3.3 Sample Table Box（stbl）

“stbl”几乎是普通的MP4文件中最复杂的一个box了，首先需要回忆一下sample的概念。sample是媒体数据存储的单位，存储在media的chunk中，chunk和sample的长度均可互不相同，如下图所示。

![20181218144739143][]

“stbl”包含了关于track中sample所有时间和位置的信息，以及sample的编解码等信息。利用这个表，可以解释sample的时序、类型、大小以及在各自存储容器中的位置。“stbl”是一个container box，其子box包括：sample description box（stsd）、time to sample box（stts）、sample size box（stsz或stz2）、sample to chunk box（stsc）、chunk offset box（stco或co64）、composition time to sample box（ctts）、sync sample box（stss）等。

“stsd”必不可少，且至少包含一个条目，该box包含了data reference box进行sample数据检索的信息。没有“stsd”就无法计算media sample的存储位置。“stsd”包含了编码的信息，其存储的信息随媒体类型不同而不同。

***Sample Description Box（stsd）***

box header和version字段后会有一个entry count字段，根据entry的个数，每个entry会有type信息，如“vide”、“sund”等，根据type不同sample description会提供不同的信息，例如对于video track，会有“VisualSampleEntry”类型信息，对于audio track会有“AudioSampleEntry”类型信息。

视频的编码类型、宽高、长度，音频的声道、采样等信息都会出现在这个box中。

***Time To Sample Box（stts）***

“stts”存储了sample的duration，描述了sample时序的映射方法，我们通过它可以找到任何时间的sample。“stts”可以包含一个压缩的表来映射时间和sample序号，用其他的表来提供每个sample的长度和指针。表中每个条目提供了在同一个时间偏移量里面连续的sample序号，以及samples的偏移量。递增这些偏移量，就可以建立一个完整的time to sample表。

***Sample Size Box（stsz）***

“stsz” 定义了每个sample的大小，包含了媒体中全部sample的数目和一张给出每个sample大小的表。这个box相对来说体积是比较大的。

***Sample To Chunk Box（stsc）***

用chunk组织sample可以方便优化数据获取，一个thunk包含一个或多个sample。“stsc”中用一个表描述了sample与chunk的映射关系，查看这张表就可以找到包含指定sample的thunk，从而找到这个sample。

***Sync Sample Box（stss）***

“stss”确定media中的关键帧。对于压缩媒体数据，关键帧是一系列压缩序列的开始帧，其解压缩时不依赖以前的帧，而后续帧的解压缩将依赖于这个关键帧。“stss”可以非常紧凑的标记媒体内的随机存取点，它包含一个sample序号表，表内的每一项严格按照sample的序号排列，说明了媒体中的哪一个sample是关键帧。如果此表不存在，说明每一个sample都是一个关键帧，是一个随机存取点。

***Chunk Offset Box（stco）***

“stco”定义了每个thunk在媒体流中的位置。位置有两种可能，32位的和64位的，后者对非常大的电影很有用。在一个表中只会有一种可能，这个位置是在整个文件中的，而不是在任何box中的，这样做就可以直接在文件中找到媒体数据，而不用解释box。需要注意的是一旦前面的box有了任何改变，这张表都要重新建立，因为位置信息已经改变了。

**5、Free Space Box（free或skip）**

“free”中的内容是无关紧要的，可以被忽略。该box被删除后，不会对播放产生任何影响。

**6、Meida Data Box（mdat）**

该box包含于文件层，可以有多个，也可以没有（当媒体数据全部为外部文件引用时），用来存储媒体数据。数据直接跟在box type字段后面，具体数据结构的意义需要参考metadata（主要在sample table中描述）。

普通MP4文件的结构就讲完了，可能会比较乱，下面这张图是常见的box的树结构图，可以用来大致了解MP4文件的构造。

![20181218144739160][]

这篇文章主要面向一些对MP4文件结构没有太多了解的初学者，算是篇比较初级的文章，本人也是参考了一些资料写出来的，对于MP4文件中涉及的一些概念没有太深入的了解，因此其中应该是有一些错误理解，希望大家抱着批判的眼光读这篇文章。如果有错误的地方，还请大家不吝赐教。

该文主要参考了标准和网友wqyuwss的blog系列文章：[mp4文件格式][mp4]

原文链接: http://blog.sina.com.cn/s/blog\_48f93b530100jz4x.html

[20181218144738941]: /images/20220404/ee47368c939b405b99ed30cbb4a0d1f2.png
[20181218144738960]: /images/20220404/a954c7be4a9b453d9bbc5962b7f0069b.png
[20181218144738977]: /images/20220404/3042cf65ba09432e88e976baa4bb5b0d.png
[20181218144738993]: /images/20220404/b30a2e43234a42d3835630194d468f1a.png
[2018121814473913]: /images/20220404/5383d0ec34d84400a9d2d7c0f4737188.png
[2018121814473933]: /images/20220404/2bd95a87c0934a9591e2b48407475094.png
[2018121814473949]: https://img-blog.csdnimg.cn/2018121814473949
[1177848-20171124103840531-577416768.jpg]: https://images2018.cnblogs.com/blog/1177848/201711/1177848-20171124103840531-577416768.jpg
[2018121814473964]: /images/20220404/5d8cf2a0635b4be682735f735e63035c.png
[2018121814473987]: /images/20220404/ab21561f883f4edf933493dbff5faa08.png
[20181218144739107]: /images/20220404/c70f280fe78c48509c2a4e38e131e514.png
[20181218144739125]: /images/20220404/5a2a4963b9cf42f98093ce4e36d559da.png
[20181218144739143]: /images/20220404/40258d066a6b460fb5c32c768353708e.png
[20181218144739160]: /images/20220404/1eb14d9354fa446ab2aa20964235d343.png
[mp4]: http://www.52rd.com/blog/Blog.asp?Name=wqyuwss&Subjectid=559