MySQL高级篇知识点——MySQL 事务日志

深藏阁楼爱情的钟 2023-10-06 23:52 0阅读 0赞

#### 目录 ####

*  1.Redo 日志
 *   *  1.1.为什么需要 Redo Log？
     *  1.2.REDO 日志的好处与特点
     *  1.3.redo 的组成
     *  1.4.redo 的整体流程
     *  1.5.redo log 的刷盘策略
     *  1.6.不同刷盘策略演示
     *   *  1.6.1.流程图说明
         *  1.6.2.举例
     *  1.7.写入 redo log buffer 过程
     *   *  1.7.1.补充概念：Mini-Transaction
         *  1.7.2.redo 日志写入 log buffer
         *  1.7.3.redo log block 的结构图
     *  1.8.redo log file
     *   *  1.8.1.相关参数设置
         *  1.8.2.日志文件组
         *  1.8.3.checkpoint
     *  1.9.redo 小结
 *  2.Undo 日志
 *   *  2.1.如何理解 undo 日志？
     *  2.2.undo 日志的作用
     *  2.3.undo 的存储结构
     *   *  2.3.1.回滚段与 undo 页
         *  2.3.2.回滚段与事务
         *  2.3.3.回滚段中的数据分类
     *  2.4.undo 的类型
     *  2.5.undo log 的生命周期
     *   *  2.5.1.简要生成过程
         *  2.5.2.详细生成过程
         *  2.5.3.undo log 是如何回滚的
         *  2.5.4.undo log 的删除
     *  2.6.undo 小结

> 本文笔记整理来自尚硅谷视频[https://www.bilibili.com/video/BV1iq4y1u7vj?p=169][https_www.bilibili.com_video_BV1iq4y1u7vj_p_169]，相关资料可在视频评论区进行获取。

（1）事务有 4 种特性：原子性、一致性、隔离性和持久性。那么事务的四种特性到底是基于什么机制实现呢？

*  事务的隔离性由`锁机制`实现。
 *  而事务的原子性、一致性和持久性由**事务的 redo 日志和 undo 日志**来保证。
    
     *  Redo Log 称为`重做日志`，提供再写入操作，恢复提交事务修改的页操作，用来保证事务的持久性。
     *  Undo Log 称为`回滚日志`，回滚行记录到某个特定版本，用来保证事务的原子性、一致性。

（2）有的 DBA 或许会认为 Undo 是 Redo 的逆过程，其实不然。Redo 和 Undo 都可以视为是一种恢复操作，但是：

*  redo log：是存储引擎层 (innodb) 生成的日志，记录的是**物理级别**上的页修改操作，比如页号xxx、偏移量 yyy 写入了 ‘zzz’ 数据。主要为了保证数据的可靠性；
 *  undo log：是存储引擎层 (innodb) 生成的日志，记录的是**逻辑操作**日志，比如对某一行数据进行了 INSERT 语句操作，那么 undo log 就记录一条与之相反的 DELETE 操作。主要用于事务的回滚（undo log 记录的是每个修改操作的逆操作）和一致性非锁定读（undo log 回滚行记录到某种特定的版本—MVCC，即**多版本并发控制**）。

## 1.Redo 日志 ##

InnoDB 存储引擎是**以页为单位**来管理存储空间的。在真正访问页面之前，需要把在**磁盘上**的页缓存到内存中的 Buffer Pool 之后才可以访问。所有的变更都必须**先更新缓冲池中的数据**，然后缓冲池中的脏页会以一定的频率被刷入磁盘（checkPoint 机制），通过缓冲池来优化 CPU 和磁盘之间的鸿沟，这样就可以保证整体的性能不会下降太快。

### 1.1.为什么需要 Redo Log？ ###

（1）一方面，缓冲池可以帮助我们消除 CPU 和磁盘之间的鸿沟，checkpoint 机制可以保证数据的最终落盘，然而由于 checkpoint 并不是每次变更的时候就触发的，而是 master 线程隔一段时间去处理的。所以**最坏的情况就是事务提交后，刚写完缓冲池，数据库宕机了，那么这段数据就是丢失的，无法恢复**。

（2）另一方面，事务包含持久性的特性，就是说对于一个已经提交的事务，在事务提交后即使系统发生了崩溃，这个事务对数据库中所做的更改也不能丢失。那么如何保证这个持久性呢？ **一个简单的做法：在事务提交完成之前把该事务所修改的所有页面都刷新到磁盘**，但是这个简单粗暴的做法有些问题：

*  ① 修改量与刷新磁盘工作量严重不成比例：有时候我们仅仅修改了某个页面中的一个字节，但是我们知道在 InnoDB 中是以页为单位来进行磁盘 I/O 的，也就是说我们在该事务提交时不得不将一个完整的页面从内存中刷新到磁盘，我们又知道一个页面默认是 16KB 大小，**只修改一个字节就要刷新 16KB 的数据到磁盘上显然是太小题大做了**。
 *  ② 随机 I/O 刷新较慢：一个事务可能包含很多语句，即使是一条语句也可能修改许多页面，假如该事务修改的这些页面可能并不相邻，这就意味着在将某个事务修改的 Buffer Pool 中的页面刷新到磁盘时，需要进行很多的随机 I/O，随机 I/O 比顺序 I/O 要慢，尤其对于传统的机械硬盘来说。

（3）另一个解决的思路 ：我们只是想让已经提交了的事务对数据库中数据所做的修改永久生效，即使后来系统崩溃，在重启后也能把这种修改恢复出来。所以我们其实没有必要在每次事务提交时就把该事务在内存中修改过的全部页面刷新到磁盘，**只需要把修改了哪些东西记录一下就好**。比如，某个事务将系统表空间中第 10 号页面中偏移量为 100 处的那个字节的值 1 改成 2 。我们只需要记录一下：将第 0 号表空间的 10 号页面的偏移量为 100 处的值更新为 2 。

（4）InnoDB 引擎的事务采用了 WAL 技术 (Write-Ahead Logging )，这种技术的思想就是先写日志，再写磁盘，只有日志写入成功，才算事务提交成功，这里的日志就是 redo log。当发生宕机且数据未刷到磁盘的时候，可以通过 redo log 来恢复，保证 ACID 中的 D，这就是 redo log 的作用。

![在这里插入图片描述][8bd470de973d4ee8b757b44a610ecd37.png]

### 1.2.REDO 日志的好处与特点 ###

**（1）好处**  
① redo 日志降低了刷盘频率；  
② redo 日志占用的空间非常小；  
存储表空间 ID、页号、偏移量以及需要更新的值，所需的存储空间是很小的，刷盘快。

**（2）特点**

*  redo 日志是顺序写入磁盘的：在执行事务的过程中，每执行一条语句，就可能产生若干条 redo 日志，这些日志是按照产生的顺序写入磁盘的，也就是使用顺序 l/O，效率比随机 I/O 快。
 *  事务执行过程中，redo log 不断记录：redo log 跟 bin log 的区别，redo log 是**存储引擎层**产生的，而 bin log 是**数据库层**产生的。假设一个事务，对表做 10 万行的记录插入，在这个过程中，一直不断的往 redo log 顺序记录，而 bin log 不会记录，直到这个事务提交，才会—次写入到 bin log 文件中。

### 1.3.redo 的组成 ###

Redo log 可以简单分为以下两个部分：  
**（1）重做日志缓冲 (redo log buffer)**，保存在内存中，是易失的。  
在服务器启动时就向操作系统申请了一大片称之为 redo log buffer 的连续内存空间，翻译成中文就是 **redo 日志缓冲区**。这片内存空间被划分成若干个连续的 **redo log block**。一个 redo log block 占用 512 字节大小。

![在这里插入图片描述][6c61bbfbae0a41b9ae4f150c294db81a.png]

参数设置：innodb\_log\_buffer\_size，它表示 redo log buffer 大小，默认是 16M ，最大值是 4096M，最小值为 1M。

mysql> show variables like '%innodb_log_buffer_size%'; 
    +------------------------+----------+
    | Variable_name 		 | Value 	| 
    +------------------------+----------+
    | innodb_log_buffer_size | 16777216 | 
    +------------------------+----------+

**（2）重做日志文件 (redo log file)**，保存在硬盘中，是持久的。  
redo 日志文件如图所示，其中的 ib\_logfile0 和 ib\_logfile1 即为 redo 日志。

cd /var/lib/mysql
    ll

![在这里插入图片描述][35fb8496e0d74f8db554880579f25a31.png]

### 1.4.redo 的整体流程 ###

（1）以一个更新事务为例，redo log 流转过程，如下图所示：

![在这里插入图片描述][4383ff67bda14e769d37bce85c8b19bb.png]

*  第 1 步：先将原始数据从磁盘中读入内存中来，修改数据的内存拷贝；
 *  第 2 步：生成一条重做日志并写入 redo log buffer，记录的是数据被修改后的值；
 *  第 3 步：当事务 commit 时，将 redo log buffer 中的内容刷新到 redo log file，对 redo log file采用**追加写**的方式；
 *  第 4 步：定期将内存中修改的数据刷新到磁盘中；

**（2）Write-Ahead Log（预先日志持久化）：在持久化一个数据页之前，先将内存中相应的日志页持久化。**

### 1.5.redo log 的刷盘策略 ###

（1）redo log 的写入并不是直接写入磁盘的，InnoDB 引擎会在写 redo log 的时候先写 redo log buffer，之后以一定的频率刷入到真正的 redo log file 中（即上面的第 3 步）。这里的一定频率怎么看待呢？这就是我们要说的**刷盘策略**。

![在这里插入图片描述][a8c35a41557d43b497e0756b9baaddf7.png]

（2）注意，redo log buffer 刷盘到 redo log file 的过程并不是真正的刷到磁盘中去，只是刷入到文件系统缓存 (page cache) 中去（这是现代操作系统为了提高文件写入效率做的一个优化），真正的写入会交给系统自己来决定（比如 page cache 足够大了）。那么对于 InnoDB 来说就存在一个问题，如果交给系统来同步，同样如果系统宕机，那么数据也丢失了（虽然整个系统宕机的概率还是比较小的）。

（3）针对这种情况，InnoDB 给出 **innodb\_flush\_log\_at\_trx\_commit 参数**，该参数控制 commit 提交事务时，如何将 redo log buffer 中的日志刷新到 redo log file 中。它支持以下三种策略：  
① 设置为0 ：表示每次事务提交时不进行刷盘操作（系统默认 master thread 每隔 1s 进行一次重做日志的同步）；  
② 设置为1 ：表示每次事务提交时都将进行同步，刷盘操作（默认值）；  
③ 设置为2 ：表示每次事务提交时都只把 redo log buffer 内容写入 page cache，不进行同步。由操作系统自己决定什么时候同步到磁盘文件；

（4）另外，InnoDB 存储引擎有一个后台线程，每隔 1s，就会把 redo log buffer 中的内容写到文件系统缓存，然后调用刷盘操作。

![在这里插入图片描述][7992001eb6844ead97d4f82070354a40.png]

也就是说，**一个没有提交事务的 redo log 记录，也可能会刷盘**。因为在事务执行过程 redo log 记录是会写入 redo log buffer 中，这些 redo log 记录会被后台线程刷盘。

![在这里插入图片描述][f0dfb51e17d34fd19060bf9e11896d2e.png]

除了后台线程每秒 1 次的轮询操作，还有一种情况，当 redo log buffer 占用的空间即将达到 innodb\_log\_buffer\_size（这个参数默认是 16M）的一半的时候，后台线程会主动刷盘。

### 1.6.不同刷盘策略演示 ###

#### 1.6.1.流程图说明 ####

（1）innodb\_flush\_log\_at\_trx\_commit = 1

![在这里插入图片描述][bb823cf67dbc4ef99c8765ad343d45e0.png]

> 小结：innodb\_flush\_log\_at\_trx\_commit = 1 时，**只要事务提交成功，redo log 记录就一定在硬盘里，不会有任何数据丢失**。如果事务执行期间 MySQL 挂了或宕机，这部分日志丢了，但是事务并没有提交，所以日志丢了也不会有损失。可以保证 ACID 的 D，数据绝对不会丢失，但是效率是最差的。**建议使用默认值**，虽然操作系统宕机的概率理论小于数据库宕机的概率，但是一般既然使用了事务，那么数据的安全相对来说更重要些。

（2）innodb\_flush\_log\_at\_trx\_commit = 2

![在这里插入图片描述][86888db9ae4c4122812cc447862ed7ea.png]

> 小结：innodb\_flush\_log\_at\_trx\_commit = 2 时，只要事务提交成功，redo log buffer中的内容只写入文件系统缓存 (page cache)。如果仅仅只是 MySQL 挂了不会有任何数据丢失，但是操作系统宕机可能会有 1s 数据的丢失，这种情况下无法满足 ACID 中的 D。但是数值 2 肯定是效率最高的。

（3）innodb\_flush\_log\_at\_trx\_commit = 0

![在这里插入图片描述][ccf2eabafb29499191ad4573b32cde1f.png]

> 小结：innodb\_flush\_log\_at\_trx\_commit = 0 时，master thread 中每 1s 进行一次重做日志的 fsync 操作，因此实例 crash 最多丢失 1s 内的事务（master thread 是负责将缓冲池中的数据异步刷新到磁盘，保证数据的一致性）。值为 0 的话，是一种折中的做法，它的 I/O 效率理论是高于 1 的，低于 2 的，这种策略也有丢失数据的风险，也无法保证 ACID 中的 D。

#### 1.6.2.举例 ####

（1）创建表和存储过程

USE atguigudb3;
    
    CREATE TABLE test_load(
    a INT,
    b CHAR(80)
    )ENGINE=INNODB;
    
    # 创建存储过程，用于向 test_load 中添加数据
    DELIMITER//
    CREATE PROCEDURE p_load(COUNT INT UNSIGNED)
    BEGIN
    DECLARE s INT UNSIGNED DEFAULT 1;
    DECLARE c CHAR(80)DEFAULT REPEAT('a',80);
    WHILE s<=COUNT DO
    INSERT INTO test_load SELECT NULL,c;
    COMMIT;
    SET s=s+1;
    END WHILE;
    END //
    DELIMITER;

**（2）测试 1：innodb\_flush\_log\_at\_trx\_commit = 1（默认情况）**

# 调用存储过程，并查看所用的时间，如下图所示
    CALL p_load(30000);  # 耗时 19.427s

![在这里插入图片描述][763c22f683d04c2c9d7e70de97da07ee.png]

**（3）测试 2：innodb\_flush\_log\_at\_trx\_commit = 0**

# 清空表数据，防止已有数据干扰本次测试
    TRUNCATE TABLE test_load;
    
    SELECT COUNT(*) FROM test_load;
    
    SET GLOBAL innodb_flush_log_at_trx_commit = 0;
    
    SHOW VARIABLES LIKE 'innodb_flush_log_at_trx_commit';
    
    # 调用存储过程
    CALL p_load(30000); # 耗时 0.447 sec

![在这里插入图片描述][526ad51060b04636a61aa36fe2ebd825.png]

**（3）测试 2：innodb\_flush\_log\_at\_trx\_commit = 2**

TRUNCATE TABLE test_load;
    
    SELECT COUNT(*) FROM test_load;
    
    SET GLOBAL innodb_flush_log_at_trx_commit = 2;
    
    SHOW VARIABLES LIKE 'innodb_flush_log_at_trx_commit';
    
    # 调用存储过程
    CALL p_load(30000); # 耗时 3.848 sec

![在这里插入图片描述][2e726fb24eb844cfbeffb1369da20f6d.png]

### 1.7.写入 redo log buffer 过程 ###

#### 1.7.1.补充概念：Mini-Transaction ####

（1）MySQL 把对底层页面中的一次原子访问的过程称之为一个 Mini-Transaction，简称 mtr，比如，向某个索引对应的 B+ 树中插入一条记录的过程就是一个 Mini-Transaction。一个 mtr 可以包含一组 redo 日志，在进行崩溃恢复时这一组 redo 日志作为一个不可分割的整体。

（2）一个事务可以包含若干条语句，每一条语句其实是由若干个 mtr 组成，每一个 mtr 又可以包含若干条 redo 日志，画个图表示它们的关系就是这样：  
![在这里插入图片描述][11359bef9fbf471f909185aa6acbc37f.png]

#### 1.7.2.redo 日志写入 log buffer ####

（1）向 log buffer 中写入 redo 日志的过程是顺序的，也就是先往前边的 block 中写，当该 block 的空闲空间用完之后再往下一个 block 中写。当我们想往 log buffer 中写入 redo 日志时，第一个遇到的问题就是应该写在哪个 block 的哪个偏移量处，所以 InnoDB 的设计者特意提供了一个称之为 buf\_free 的全局变量，该变量指明后续写入的 redo 日志应该写入到 log buffer 中的哪个位置，如图所示：

![在这里插入图片描述][647a9e6acb394e5bbdcc121d132ebf18.png]

（2）一个 mtr 执行过程中可能产生若干条 redo 日志，这些 redo 日志是一个不可分割的组，所以其实并不是每生成一条 redo 日志，就将其插入到log buffer 中，而是每个 mtr 运行过程中产生的日志先暂时存到一个地方，当该 mtr 结束的时候，将过程中产生的一组 redo 日志再全部复制到 log buffer 中。我们现在假设有两个名为 T1、T2 的事务，每个事务都包含 2 个 mtr，我们给这几个 mtr 命名一下：

*  事务 T1 的两个 mtr 分别称为 mtr\_T1\_1 和 mtr\_T1\_2。
 *  事务 T2 的两个 mtr 分别称为 mtr\_T2\_1 和 mtr\_T2\_2。

（3）每个 mtr 都会产生一组 redo 日志，用示意图来描述一下这些 mtr 产生的日志情况：

![在这里插入图片描述][5a6d133e2e8f43129d9c2cd0300c3e64.png]

（4）不同的事务可能是**并发执行**的，所以 T1、T2 之间的 mtr 可能是**交替执行**的。每当一个 mtr 执行完成时，伴随该 mtr 生成的一组 redo 日志就需要被复制到 log buffer 中，也就是说不同事务的 mtr 可能是交替写入 log buffer 的，我们画个示意图（为了美观，我们把一个 mtr 中产生的所有的 redo 日志当作一个整体来画）：

![在这里插入图片描述][3cace0eca2c94f4c9047c2c47993e2e6.png]

有的 mtr 产生的 redo 日志量非常大，比如 mtr\_t1\_2 产生的 redo 日志占用空间比较大，占用了 3 个 block 来存储。

#### 1.7.3.redo log block 的结构图 ####

（1）一个 redo log block 是由日志头、日志体、日志尾组成。日志头占用 12 字节，日志尾占用 8 字节，所以**一个 block 真正能存储的数据就是 512 - 12 - 8 = 492 字节。**

> 为什么一个 block 设计成 512 字节？  
> 这个和磁盘的扇区有关，机械磁盘默认的扇区就是 512 字节，如果你要写入的数据大于 512 字节，那么要写入的扇区肯定不止一个，这时就要涉及到盘片的转动，找到下一个扇区，假设现在需要写入两个扇区 A 和 B，如果扇区 A 写入成功，而扇区 B 写入失败，那么就会出现**非原子性的写入**，而如果每次只写入和扇区的大小一样的 512 字节，那么每次的写入都是原子性的。

![在这里插入图片描述][f4a922d22c7046eb9c954d85652c860e.png]

（2）真正的 redo 日志都是存储到占用 496 字节大小的 log block body 中，图中的 log block header 和 logblock trailer 存储的是一些**管理信息**。我们来看看这些所谓的管理信息都有什么。

![在这里插入图片描述][1af5aa4822cd4db783456dda5442d1ae.png]

① `log block header` 的属分别如下：

<table> 
 <thead> 
  <tr> 
   <th>LOG_BLOCK_HDR_NO</th> 
   <th>log buffer 是由 log block 组成，在内部 log buffer 就好似一个数组，因此 LOG_BLOCK_HDR_NO 用来标记这个数组中的位置。其是递增并且循环使用的，占用 4 个字节，但是由于第一位用来判断是否是 flush bit，所以最大的值为 2G</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>LOG_BLOCK_HDR_DATA_LEN</td> 
   <td>表示 block 中已经使用了多少字节，初始值为 12（因为 log block body 从第 12 个字节处开始）。随着往 block 中写入的 redo 日志越来也多，本属性值也跟着增长。如果 log block body 已经被全部写满，那么本属性的值被设置为 512</td> 
  </tr> 
  <tr> 
   <td>LOG_BLOCK_FIRST_REC_GROUP</td> 
   <td>一条 redo 日志也可以称之为一条 redo 日志记录 (redo log record)，一个 mtr 会生产多条 redo 日志记录，这些 redo 日志记录被称之为一个 redo 日志记录组(redo log record group)。LOG_BLOCK_FIRST_REC_GROUP 就代表该 block 中第一个 mtr 生成的 redo 日志记录组的偏移量（其实也就是这个 block 里第一个 mtr 生成的第一条 redo 日志的偏移量）。如果该值的大小和LOG_BLOCK_HDR_DATA_LEN 相同，则表示当前 log block 不包含新的日志</td> 
  </tr> 
  <tr> 
   <td>LOG_BLOCK_CHECKPOINT_NO</td> 
   <td>占用 4 字节，表示该 log block 最后被写入时的 checkpoint</td> 
  </tr> 
 </tbody> 
</table>

② `log block trailer` 中属性如下：  
LOG\_BLOCK\_CHECKSUM：表示 block 的校验值，用于正确性校验（其值和 LOG\_BLOCK\_HDR\_NO 相同)，我们暂时不关心它。

### 1.8.redo log file ###

#### 1.8.1.相关参数设置 ####

（1）innodb\_log\_group\_home\_dir：指定 redo log 文件组所在的路径，默认值为 ./，表示在数据库的数据目录下。MySQL 的默认数据目录 (var/lib/mysql) 下默认有两个名为 ib\_logfile0 和 ib\_logfile1 的文件，log buffer 中的日志默认情况下就是刷新到这两个磁盘文件中。此 redo 日志文件位置还可以修改。

（2）innodb\_log\_files\_in\_group：指明 redo log file 的个数，命名方式如：ib\_logfile0，iblogfile1… iblogfilen。默认 2 个，最大 100 个。

（3）innodb\_flush\_log\_at\_trx\_commit：控制 redo log 刷新到磁盘的策略，默认为 1。

（4）innodb\_log\_file\_size：单个 redo log 文件设置大小，默认值为 48M 。最大值为 512G，注意最大值  
指的是整个 redo log 系列文件之和，即 innodb\_log\_files\_in\_group \* innodb\_log\_file\_size 不能大于最大值 512G。

mysql> show variables like 'innodb_log_file_size'; 
    +----------------------+----------+
    | Variable_name 	   | Value	  | 
    +----------------------+----------+
    | innodb_log_file_size | 50331648 | 
    +----------------------+----------+

根据业务修改其大小，以便容纳较大的事务。编辑 my.cnf文 件并重启数据库生效，如下所示：

[root@localhost ~]vim /etc/my.cnf 
    innodb_log_file_size=200M

> 在数据库实例更新比较频繁的情况下，可以适当加大 redo log 组数和大小。但也不推荐 redo log 设置过大，在 MySQL 崩溃恢复时会重新执行 REDO 日志中的记录。

#### 1.8.2.日志文件组 ####

（1）从上边的描述中可以看到，磁盘上的 redo 日志文件不只一个，而是以一个日志文件组的形式出现的。这些文件以 ib\_logfile\[数字\]（数字可以是0、1、2…）的形式进行命名，每个的 redo 日志文件大小都是一样的。

（2）在将 redo 日志写入日志文件组时，是从 ib\_logfile0 开始写，如果 ib\_logfile0 写满了，就接着 ib\_logfile1 写。同理, ib\_logfile1 写满了就去写 ib\_logfile2，依此类推。如果写到最后一个文件该咋办？那就重新转到 ib\_logfile0 继续写，所以整个过程如下图所示：

![在这里插入图片描述][03286e5804d642cfbcdb079c03437cbd.png]

（3）总共的 redo 日志文件大小其实就是： innodb\_log\_file\_size × innodb\_log\_files\_in\_group。采用循环使用的方式向 redo 日志文件组里写数据的话，会导致后写入的 redo 日志覆盖掉前边写的 redo 日志？当然！所以 InnoDB 的设计者提出了 checkpoint 的概念。

#### 1.8.3.checkpoint ####

（1）在整个日志文件组中还有两个重要的属性，分别是 write pos、checkpoint：

*  write pos是当前记录的位置，一边写一边后移；
 *  checkpoint是当前要擦除的位置，也是往后推移；

（2）每次刷盘 redo log 记录到日志文件组中，write pos 位置就会后移更新。每次 MySQL 加载日志文件组恢复数据时，会清空加载过的redo log 记录，并把 checkpoint 后移更新。write pos 和 checkpoint 之间的还空着的部分可以用来写入新的 redo log 记录。

![在这里插入图片描述][c4c7e493f615485cb89ef10f99cf79e5.png]

（3）**如果 write pos 追上checkpoint，表示日志文件组满了**，这时候不能再写入新的 redo log 记录，MySQL 得停下来，清空一些记录，把 checkpoint 推进一下。

![在这里插入图片描述][7ab8962bcb3c40dcb5806bd25f065c8c.png]

### 1.9.redo 小结 ###

相信大家都知道 redo log 的作用和它的刷盘时机、存储形式：**InnoDB 的更新操作采用的是 Write Ahead Log（预先日志持久化）策略，即先写日志，再写入磁盘。**

![在这里插入图片描述][3b640f42254a4f8384477810731ecd6f.png]

## 2.Undo 日志 ##

redo log 是事务持久性的保证，undo log 是事务原子性的保证。在事务中**更新数据**的**前置操作**其实是要先写入一个 undo log。

### 2.1.如何理解 undo 日志？ ###

（1）事务需要保证**原子性**，也就是事务中的操作要么全部完成，要么什么也不做。但有时候事务执行到一半会出现一些情况，比如：

*  情况一：事务执行过程中可能遇到各种错误，比如**服务器本身的错误**， 操作系统错误 ，甚至是突然断电导致的错误。
 *  情况二：程序员可以在事务执行过程中**手动输入 ROLLBACK 语句**结束当前事务的执行。

（2）以上情况出现，我们需要把数据改回原先的样子，这个过程称之为**回滚**，这样就可以造成一个假象：这个事务看起来什么都没做，所以符合**原子性**要求。

（3）每当我们要对一条记录做改动时（这里的改动可以指 INSERT、DELETE、UPDATE，不包括 SELECT），都需要"留一手"——即把回滚时所需的东西记下来。比如：

*  你插入一条记录时，至少要把这条记录的**主键值**记下来，之后回滚的时候只需要把这个主键值对应的记录融掉就好了。(对于每个INSERT，InnoDB 存储引擎会完成一个DELETE）
 *  你删除了一·条记录，至少要把**这条记录中的内容**都记下来，这样之后回滚时再把由这些内容组成的记录插入到表中就好了。（对于每个DELETE，InnoDB 存储引擎会执行一个 INSERT）
 *  你修改了一荼记绿，至少要把修改**这条记录前的旧值**都记录下来，这样之后回滚时再把这条记录更新为旧值就好了。（对于每个UPDATE，InnoDB 存储引擎会执行一个相反的 UPDATE，将修改前的行放回去）

（4）MySQL 把这毕为了回滚而记录的这些内容称之为撤销日志或者回滚日志（即 undo log）。注意，由于查询操作 (SELECT) 并不会修改任何用户记录，所以在查询操作执行时，并不需要记录相应的 undo 日志。此外，undo log 会产生 redo log，也就是 undo log 的产生会伴随着 redo log 的产生，这是**因为 undo log 也需要持久性的保护**。

### 2.2.undo 日志的作用 ###

（1）作用 1：回滚数据  
① 用户对 undo 日志可能有**误解**：undo 用于将数据库物理地恢复到执行语句或事务之前的样子。但事实并非如此。undo 是**逻辑日志**，因此只是将数据库逻辑地恢复到原来的样子。所有修改都被逻辑地取消了，但是**数据结构和页本身在回滚之后可能大不相同**。

② 这是因为在多用户并发系统中，可能会有数十、数百甚至数千个并发事务。数据库的主要任务就是协调对数据记录的并发访问。比如，一个事务在修改当前一个页中某几条记录，同时还有别的事务在对同一个页中另几条记录进行修改。因此，**不能将一个页回滚到事务开始的样子，因为这样会影响其他事务正在进行的工作**。

（2）作用 2：MVCC  
undo 的另一个作用是 MVCC（多版本并发控制），即在 InnoDB 存储引擎中 MVCC 的实现是通过 undo 来完成。当用户读取一行记录时，若该记录已经被其他事务占用，当前事务可以通过 undo 读取之前的行版本信息，以此实现非锁定读取。

### 2.3.undo 的存储结构 ###

#### 2.3.1.回滚段与 undo 页 ####

（1）InnoDB 对 undo log 的管理采用**段**的方式，也就是**回滚段 (rollback segment)**。每个回滚段记录了 1024 个 undo log segment，而在每个undo log segment 段中进行 undo 页的申请。

*  在 InnoDB1.1版本之前（不包括1.1版本），只有一个 rollback segment，因此支持同时在线的事务限制为 1024 。虽然对绝大多数的应用来说都已经够用。
 *  从 1.1 版本开始 InnoDB 支持最大 128 个 rollback segment ，故其支持同时在线的事务限制提高到了 128\*1024 。

mysql> show variables like 'innodb_undo_logs'; 
    +------------------+-------+
    | Variable_name    | Value | 
    +------------------+-------+
    | innodb_undo_logs | 128   | 
    +------------------+-------+

（2）虽然 InnoDB 1.1 版本支持了 128 个 rollback segment，但是这些 rollback segment 都存储于共享表空间 ibdata 中。从 InnoDB1.2 版本开始，可通过参数对 rollback segment 做进一步的设置。这些参数包括：

*  **innodb\_undo\_directory**：设置 rollback segment 文件所在的路径。这意味着 rollback segment 可以存放在共享表空间以外的位置，即可以设置为独立表空间。该参数的默认值为 “./”，表示当前 InnoDB 存储引擎的目录。
 *  **innodb\_undo\_logs**：设置 rollback segment 的个数，默认值为 128。在 InnoDB 1.2 版本中，该参数用来替换之前版本的参数innodb\_rollback\_segments。
 *  **innodb\_undo\_tablespaces**：设置构成 rollback segment 文件的数量，这样 rollback segment 可以较为平均地分布在多个文件中。设置该参数后，会在路径 innodb\_undo\_directory 看到 undo 为前缀的文件，该文件就代表 rollback segment 文件。

> 注意：undo log 相关参数一般很少改动。

（3）undo 页的重用  
① 当我们开启一个事务需要写 undo log 的时候，就得先去 undo log segment 中去找到一个空闲的位置，当有空位的时候，就去申请 undo页，在这个申请到的 undo 页中进行 undo log 的写入。我们知道 MySQL 默认一页的大小是 16k。

② 为每一个事务分配一个页，是非常浪费的（除非你的事务非常长），假设你的应用的 TPS（每秒处理的事务数目）为1000，那么 1s 就需要 1000 个页，大概需要 16M 的存储，1 分钟大概需要 1G 的存储。如果照这样下去除非 MySQL 清理的非常勤快，否则随着时间的推移，磁盘空间会增长的非常快，而且很多空间都是浪费的。

③ 于是 undo 页就被设计的可以**重用**了，当事务提交时，并不会立刻删除 undo 页。因为重用，所以这个 undo 页可能混杂着其他事务的undo log。undo log 在 commit 后，会被放到一个链表中，然后判断 undo 页的使用空间是否小于 3/4，如果小于 3/4 的话，则表示当前的undo 页可以被重用，那么它就不会被回收，其他事务的 undo log 可以记录在当前 undo 页的后面。由于 undo log 是离散的，所以清理对应的磁盘空间时，效率不高。

#### 2.3.2.回滚段与事务 ####

（1）每个事务只会使用一个回滚段，一个回滚段在同一时刻可能会服务于多个事务。  
（2）当一个事务开始的时候，会制定一个回滚段，在事务进行的过程中，当数据被修改时，原始的数据会被复制到回滚段。  
（3）在回滚段中，事务会不断填充盘区，直到事务结束或所有的空间被用完。如果当前的盘区不够用，事务会在段中请求扩展下一个盘区，如果所有已分配的盘区都被用完，事务会覆盖最初的盘区或者在回滚段允许的情况下扩展新的盘区来使用。  
（4）回滚段存在于undo表空间中，在数据库中可以存在多个 undo 表空间，但同一时刻只能使用一个 undo 表空间。

mysql> show variables like 'innodb_undo_tablespaces';
    +-------------------------+-------+
    | Variable_name    		  | Value | 
    +-------------------------+-------+
    | innodb_undo_tablespaces |   2   | 
    +-------------------------+-------+
    # undo log 的数量最少为 2，undo log 的 truncate 操作有 purge 协调线程发起。
    # 在 truncate 某个 undo log 表空间的过程中，保证有一个可用的 undo log 可用。

（5）当事务提交时，InnoDB 存储引擎会做以下两件事情：  
① 将 undo log 放入列表中，以供之后的 purge 操作  
② 判断 undo log 所在的页是否可以重用，若可以分配给下个事务使用

#### 2.3.3.回滚段中的数据分类 ####

（1）未提交的回滚数据 (uncommitted undo information)   
该数据所关联的事务并未提交，用于实现读一致性，所以该数据不能被其他事务的数据覆盖。

（2）已经提交但未过期的回滚数据 (committed undo information)   
该数据关联的事务已经提交，但是仍受到 undo retention 参数的保持时间的影响。

（3）事务已经提交并过期的数据 (expired undo information)  
事务已经提交，而且数据保存时间已经超过 undo retention 参数指定的时间，属于已经过期的数据。当回滚段满了之后，会优先覆盖"事务已经提交并过期的数据"。

事务提交后并不能马上删除 undo log 及 undo log 所在的页。这是因为可能还有其他事务需要通过 undo log 来得到行记录之前的版本。所以事务提交时将 undo log 放入一个链表中，是否可以最终删除 undo log 及 undo log 所在页由 purge 线程来判断。

### 2.4.undo 的类型 ###

在 InnoDB 存储引擎中，undo log 分为：

*  `insert undo log`：insert undo log 是指在 insert 操作中产生的 undo log。因为 insert 操作的记录，只对事务本身可见，对其他事务不可见（这是事务隔离性的要求），故该 undo log 可以在事务提交后直接删除。不需要进行 purge 操作。
 *  `update undo log`：update undo log 记录的是对 delete 和 update 操作产生的 undo log。该 undo log 可能需要提供 MVCC 机制，因此不能在事务提交时就进行删除。提交时放入 undo log 链表，等待 purge 线程进行最后的删除。

### 2.5.undo log 的生命周期 ###

#### 2.5.1.简要生成过程 ####

（1）以下是 undo + redo 事务的简化过程，假设有 2 个数值，分别为 A = 1 和 B = 2，然后将 A 修改为 ，B 修改为 4。

1. start transaction;
    2. 记录 A = 1 到 undo log;
    3. update A = 3;
    4. 记录 A = 3 到 redo log;
    5. 记录 B = 2 到 undo log;
    6. update B =4;
    7. 记录 B = 4 到 redo log;
    8. 将 redo log 刷新到磁盘;
    9. commit;

在 1 ~ 8 步骤的任意一步系统宕机，事务未提交，该事务就不会对磁盘上的数据做任何影响。  
如果在 8 ~ 9 之间宕机，恢复之后可以选择回滚，也可以选择继续完成事务提交  
因为此时 redo log 已经持久化。若在 9 之后系统宕机，内存映射中变更的数据还来不及刷回磁盘，那么系统恢复之后，可以根据 redo log 把数据刷回磁盘。

**（2）只有 Buffer Pool 的流程**

![在这里插入图片描述][be107bba862642da82418343f23b6ee8.png]

**（3）有了Redo Log和Undo Log之后**

![在这里插入图片描述][22c5dea7faf24c228718efda3ab584ae.png]

在更新 Buffer Pool 中的数据之前，我们需要先将该数据事务开始之前的状态写入 Undo Log 中。假设更新到一半出错了，我们就可以通过 Undo Log 来回滚到事务开始前。

#### 2.5.2.详细生成过程 ####

（1）对于 InnoDB 引擎来说，每个行记录除了记录本身的数据之外，还有几个隐藏的列：  
① DB\_ROW\_ID∶如果没有为表显式地定义主键，并且表中也没有定义唯一索引，那么 InnoDB 会自动为表添加一个 row\_id 的隐藏列作为主键。  
② DB\_TRX\_ID：每个事务都会分配一个事务 ID，当对某条记录发生变更时，就会将这个事务的事务 ID 写入 trx\_id 中。  
③ DB\_ROLL\_PTR：回滚指针，本质上就是指向 undo log 的指针。

![在这里插入图片描述][b79bcdb5948e4dd18f5e554d4d4d6634.png]

**（2）当执行 INSERT 操作时：**

begin; 
    INSERT INTO user (name) VALUES ("tom");

插入的数据都会生成一条 insert undo log，并且数据的回滚指针会指向它。undo log 会记录 undo log 的序号、插入主键的列和值…，那么在进行 rollback 的时候，通过主键直接把对应的数据删除即可。

![在这里插入图片描述][d58b76a3231a436ca02f9f5a1e878451.png]

**（3）当执行 UPDATE 操作时：**  
对于更新的操作会产生 update undo log，并且会分更新主键的和不更新主键的，假设现在执行：

UPDATE user SET name= "Sun" WHERE id = 1;

![在这里插入图片描述][eb2075fca4d64b129458e4b07cec3734.png]

这时会把老的记录写入新的 undo log，让回滚指针指向新的 undo log，它的 undo no 是 1，并且新的 undo log 会指向老的 undo log (undo no = 0)。假设现在执行：

UPDATE user SET id=2 WHERE id=1;

![在这里插入图片描述][cb54719351354e78a7dfa126152c4520.png]

对于更新主键的操作，会先把原来的数据 deletemark 标识打开，这时并没有真正的删除数据，真正的删除会交给清理线程去判断，然后在后面插入一条新的数据，新的数据也会产生 undo log，并且 undo log 的序号会递增。

可以发现每次对数据的变更都会产生一个 undo log，当一条记录被变更多次时，那么就会产生多条 undo log，undo log 记录的是变更前的日志，并且每个 undo log 的序号是递增的，那么当要回滚的时候，按照序号**依次向前推**，就可以找到我们的原始数据了。

#### 2.5.3.undo log 是如何回滚的 ####

以上面的例子来说，假设执行 rollback，那么对应的流程应该是这样：  
（1）通过 undo no = 3 的日志把 id = 2 的数据删除；  
（2）通过 undo no = 2 的日志把 id= 1 的数据的 deletemark 还原成 0；  
（3）通过 undo no = 1 的日志把 id = 1 的数据的 name 还原成 Tom；  
（4）通过 undo no = 0 的日志把 id = 1 的数据删除；

#### 2.5.4.undo log 的删除 ####

（1）针对于 insert undo log  
因为 insert 操作的记录，只对事务本身可见，对其他事务不可见。故该 undo log 可以在事务提交后直接删除，不需要进行 purge 操作。

（2）针对于update undo log  
该 undo log 可能需要提供 MVCC 机制，因此不能在事务提交时就进行删除。提交时放入 undo log 链表，等待 purge 线程进行最后的删除。

> 补充：purge 线程两个主要作用是**清理 undo 页**和**清除 page 里面带有 Delete\_Bit 标识的数据行**。在 InnoDB 中，事务中的 Delete 操作实际上并不是真正的删除掉数据行，而是一种 Delete Mark 操作，在记录上标识 Delete\_Bit，而不删除记录。是一种"假删除"，只是做了个标记，真正的删除工作需要后台 purge 线程去完成。

### 2.6.undo 小结 ###

（1）undo log 是**逻辑日志**，对事务回滚时，只是将数据库逻辑地恢复到原来的样子。  
（2）redo log 是**物理日志**，记录的是数据页的物理变化，undo log 不是 redo log 的逆过程。

![在这里插入图片描述][aae6ccb91f6d4abd9114259c378b2892.png]

[https_www.bilibili.com_video_BV1iq4y1u7vj_p_169]: https://www.bilibili.com/video/BV1iq4y1u7vj?p=169
[8bd470de973d4ee8b757b44a610ecd37.png]: https://img-blog.csdnimg.cn/8bd470de973d4ee8b757b44a610ecd37.png
[6c61bbfbae0a41b9ae4f150c294db81a.png]: https://img-blog.csdnimg.cn/6c61bbfbae0a41b9ae4f150c294db81a.png
[35fb8496e0d74f8db554880579f25a31.png]: https://img-blog.csdnimg.cn/35fb8496e0d74f8db554880579f25a31.png
[4383ff67bda14e769d37bce85c8b19bb.png]: https://img-blog.csdnimg.cn/4383ff67bda14e769d37bce85c8b19bb.png
[a8c35a41557d43b497e0756b9baaddf7.png]: https://img-blog.csdnimg.cn/a8c35a41557d43b497e0756b9baaddf7.png
[7992001eb6844ead97d4f82070354a40.png]: https://img-blog.csdnimg.cn/7992001eb6844ead97d4f82070354a40.png
[f0dfb51e17d34fd19060bf9e11896d2e.png]: https://img-blog.csdnimg.cn/f0dfb51e17d34fd19060bf9e11896d2e.png
[bb823cf67dbc4ef99c8765ad343d45e0.png]: https://img-blog.csdnimg.cn/bb823cf67dbc4ef99c8765ad343d45e0.png
[86888db9ae4c4122812cc447862ed7ea.png]: https://img-blog.csdnimg.cn/86888db9ae4c4122812cc447862ed7ea.png
[ccf2eabafb29499191ad4573b32cde1f.png]: https://img-blog.csdnimg.cn/ccf2eabafb29499191ad4573b32cde1f.png
[763c22f683d04c2c9d7e70de97da07ee.png]: https://img-blog.csdnimg.cn/763c22f683d04c2c9d7e70de97da07ee.png
[526ad51060b04636a61aa36fe2ebd825.png]: https://img-blog.csdnimg.cn/526ad51060b04636a61aa36fe2ebd825.png
[2e726fb24eb844cfbeffb1369da20f6d.png]: https://img-blog.csdnimg.cn/2e726fb24eb844cfbeffb1369da20f6d.png
[11359bef9fbf471f909185aa6acbc37f.png]: https://img-blog.csdnimg.cn/11359bef9fbf471f909185aa6acbc37f.png
[647a9e6acb394e5bbdcc121d132ebf18.png]: https://img-blog.csdnimg.cn/647a9e6acb394e5bbdcc121d132ebf18.png
[5a6d133e2e8f43129d9c2cd0300c3e64.png]: https://img-blog.csdnimg.cn/5a6d133e2e8f43129d9c2cd0300c3e64.png
[3cace0eca2c94f4c9047c2c47993e2e6.png]: https://img-blog.csdnimg.cn/3cace0eca2c94f4c9047c2c47993e2e6.png
[f4a922d22c7046eb9c954d85652c860e.png]: https://img-blog.csdnimg.cn/f4a922d22c7046eb9c954d85652c860e.png
[1af5aa4822cd4db783456dda5442d1ae.png]: https://img-blog.csdnimg.cn/1af5aa4822cd4db783456dda5442d1ae.png
[03286e5804d642cfbcdb079c03437cbd.png]: https://img-blog.csdnimg.cn/03286e5804d642cfbcdb079c03437cbd.png
[c4c7e493f615485cb89ef10f99cf79e5.png]: https://img-blog.csdnimg.cn/c4c7e493f615485cb89ef10f99cf79e5.png
[7ab8962bcb3c40dcb5806bd25f065c8c.png]: https://img-blog.csdnimg.cn/7ab8962bcb3c40dcb5806bd25f065c8c.png
[3b640f42254a4f8384477810731ecd6f.png]: https://img-blog.csdnimg.cn/3b640f42254a4f8384477810731ecd6f.png
[be107bba862642da82418343f23b6ee8.png]: https://img-blog.csdnimg.cn/be107bba862642da82418343f23b6ee8.png
[22c5dea7faf24c228718efda3ab584ae.png]: https://img-blog.csdnimg.cn/22c5dea7faf24c228718efda3ab584ae.png
[b79bcdb5948e4dd18f5e554d4d4d6634.png]: https://img-blog.csdnimg.cn/b79bcdb5948e4dd18f5e554d4d4d6634.png
[d58b76a3231a436ca02f9f5a1e878451.png]: https://img-blog.csdnimg.cn/d58b76a3231a436ca02f9f5a1e878451.png
[eb2075fca4d64b129458e4b07cec3734.png]: https://img-blog.csdnimg.cn/eb2075fca4d64b129458e4b07cec3734.png
[cb54719351354e78a7dfa126152c4520.png]: https://img-blog.csdnimg.cn/cb54719351354e78a7dfa126152c4520.png
[aae6ccb91f6d4abd9114259c378b2892.png]: https://img-blog.csdnimg.cn/aae6ccb91f6d4abd9114259c378b2892.png