Mysql——多表连接查询的执行细节

淡淡的烟草味﹌ 2021-09-02 06:51 368阅读 0赞

## 多表连接查询的执行细节 ##

create table a(a1 int primary key, a2 int ,index(a2));  		--双字段都有索引
    create table c(c1 int primary key, c2 int ,index(c2), c3 int);  --双字段都有索引
    create table b(b1 int primary key, b2 int);						--有主键索引
    create table d(d1 int, d2 int); 								--没有索引
    
    insert into a values(1,1),(2,2),(3,3),(4,4),(5,5),(6,6),(7,7),(8,8),(9,9),(10,10);
    insert into b values(1,1),(2,2),(3,3),(4,4),(5,5),(6,6),(7,7),(8,8),(9,9),(10,10);
    insert into c values(1,1,1),(2,4,4),(3,6,6),(4,5,5),(5,3,3),(6,3,3),(7,2,2),(8,8,8),(9,5,5),(10,3,3);  
    insert into d values(1,1),(2,2),(3,3),(4,4),(5,5),(6,6),(7,7),(8,8),(9,9),(10,10);

#### 1. 驱动表如何选择 ####

驱动表的选择遵循一个原则：在对最终结果集没影响的前提下，优先选择结果集最小的那张表作为驱动表。改变驱动表就意味着改变连接顺序，只有在不会改变最终输出结果的前提下才可以对驱动表做优化选择。在外连接情况下，很多时候改变驱动表会对输出结果有影响，比如left join的左边表和right join的右边表，驱动表选择join的左边或者右边最终输出结果很有可能会不同。

用结果集来选择驱动表，那结果集是什么？如何计算结果集？mysql在选择前会根据where里的每个表的筛选条件，相应的对每个可作为驱动表的表做个结果记录预估，预估出每个表的返回记录行数，同时再根据select里查询的字段的字节大小总和做乘积：

`每行查询字节数 * 预估的行数 = 预估结果集`

通过where预估结果行数，遵循以下规则：

*  如果where里没有相应表的筛选条件，无论on里是否有相关条件，默认为全表
 *  如果where里有筛选条件，但是不能使用索引来筛选，那么默认为全表
 *  如果where里有筛选条件，而且可以使用索引，那么会根据索引来预估返回的记录行数

我们以上述创建的表为基础，用如下sql作为案列来演示：

select a.*,c.c2 
    from a join c on a.a2=c.c2 
    where a.a1>5 and c.c1>5;

执行计划如下：  
c.c1 > 5共有5条数据，a.a1 > 5 共有5条数据。但是a.\* 的数量肯定大于c.c2，所以c为驱动表。

![在这里插入图片描述][20200831192408558.png_pic_center]

将c.c2修改为c.\*，执行计划如下：  
![在这里插入图片描述][20200831192453895.png_pic_center]

此时驱动表还是c，按理来说c.\*的数据量肯定是比a.\*大的，似乎结果集大小的规则在这里没有起作用。

此情形下如果用a作为驱动表，通过索引c2关联到c表，那么还需要再回表查询一次，因为仅仅通过c2获取不到`c.*`的数据，还需要通过c2上的主键c1再查询一次。而上一个sq|查询的是c2，不需要额外查询。同时因为a表只有两个字段,通过a2索引能够直接获得 `a.*` ,不需要额外查询。

综上所述，虽然使用c表来驱动，结果集大一些，但是能够减少一次额外的回表查询，所以mysq|认为使用c表作为驱动来效率更高。

结果集是作为选择驱动表的一个主要因素，但不是唯一因素。

#### 2. 两表关联查询的内在逻辑是怎样的？ ####

mysql表与表之间的关联查询使用Nested-Loop join算法，顾名思义就是嵌套循环连接，但是根据场景不同可能有不同的变种：

*  在`使用索引`关联的情况下，有`Index Nested-Loop join`和`Batched Key Access join`两种算法；
 *  在`未使用索引`关联的情况下，有`Simple Nested-Loop join`和`Block Nested-Loop join`两种算法；

有索引的情况：

select a.*, c.* 
    from a join c on a.a2=c.c2
    where a.a1 > 4;

![在这里插入图片描述][20200831193702295.png_pic_center]

首先根据第一步的逻辑来确定驱动表a，然后通过a.a1>4, a.来查询一条记录a1=5，将此记录的c2关联到c表，取得c2索引上的主键c1，然后用c1的值再去聚集索引上查询c.\*,组成一条完整的结果，放入net buffer,然后再根据条件a.a1>4, a. 取下一条记录，循环此过程。过程图如下:  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center]

通过索引关联被驱动表，使用的是`Index Nested-Loop join算法`，不会使用msyql的joinbuffer。根据驱动表的筛选条件逐条地和被驱动表的索引做关联，每关联到一条符合的记录，放入`net-buffer`中， 然后继续关联。此缓存区由`net_ buffer_ length`参 数控制，最小4k，最大16M,默认是1M。如果net-buffer满 了，将其发送给client,清空net-buffer,继续上一过程。

通过上述流程知道，驱动表的每条记录在关联被驱动表时，如果需要用到索引不包含的数据时，就需要回表一次，去聚集索引上查询记录，这是一个随机查询的过程。每条记录就是一次随机查询，性能不是非常高。mysq|对 这种情况有选择的做了优化，将这种随机查询转换为顺序查询，执行过程如下图:  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 1]

此时会使用`Batched Key Access join算法`，顾名思义，就是批量的key访问连接。

逐条的根据where条件查询驱动表，将符合记录的数据行放入`join buffer`，然后根据关联的索引获取被驱动表的索引记录，存入`read_rnd_ buffer`。 join buffer和read\_rnd\_buffer都有大小限制，无论哪个到达上限都会停止此批次的数据处理，等处理完清空数据再执行下一批次。也就是驱动表符合条件的数据可能不能够一次处理完，而要分批次处理。

当达到批次上限后，对read\_rnd\_buffer里的被驱动表的索引按主键做递增排序，这样在回表查询时就能够做到近似顺序查询:

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 2]

如上图，左边是未排序前的随机查询示意图，右边是排序后使用MRR( Multi-Range Read )的顺序查询示意图。

因为mysql的InnoDB引擎的数据是按聚集索弓|来排列的，当对非聚集索弓|按照主键来排序后，再用主键去查询就使得随机查询变为顺序查询，而计算机的顺序查询有预读机制，在读取一页数据时，会向后额外多读取最多1M数据。此时顺序读取就能排上用场。

BKA算法在需要对被驱动表回表的情况下能够优化执行逻辑，如果不需要会表，那么自然不需要BKA算法。  
如果要使用BKA优化算法的话，你需要在执行SQL语句之前先设置:

set optimizer_switch='mrr=on,mrr_cost_based=off,batched_key_access=on';

前两个参数的作用是要启用`MRR (Multi- Range Read)` 。这么做的原因是，BKA 算法的优化需要依赖于MRR，官方文档的说法，是现在的优化器策略，判断消耗的时候，会更倾向于不使用MRR，把mrr\_cost\_based设置为off,就是固定使用MRR了。)

最后再用explain查看开启参数后的执行计划:

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 3]

没有索引的情况：

没有使用索引关联，那么最简单的`Simple Nested-Loop join`，就是根据where条件，从驱动表取一条数据，然后全表扫面被驱动表，将符合条件的记录放入最终结果集中。这样驱动表的每条记录都伴随着被驱动表的一次全 表扫描，这就是Simple Nested-Loop join。

当然mysql没有直接使用Simple Nested-Loop join，而是对其做了一个优化，不是逐条的获取驱动表的数据，而是多条的获取，也就是一块一块的获取，取名叫`Block Nested-Loop join`。每次取一批数据，上限是达到join buffer的大小，然后全表扫面被驱动表，每条数据和join buffer里的所有行做匹配，匹配上放入最终结果集中。这样就极大的减少了扫描被驱动表的次数。

`BNL ( Block Nested-Loop join )`和`BKA( Batched Key Access join )`的流程有点类似，但是没有read\_rnd\_buffer 这个步骤。

示例：

select a.*, d.* 
    from a join d on a.a2 = d.d2
    where a.a1 > 7;

![在这里插入图片描述][20200831195353440.png_pic_center]

#### 3. 多表连接如何执行？是先两表连接的结果集然后关联第三张表，还是一条记录贯穿全剧？ ####

其实看连接算法的名称：Nested-Loop join，嵌套循环连接，就知道是多表嵌套的循环连接，而不是先两表关联得出结果，然后再依次关联的形式，其形式类似于下面这样：

for row1 in table1 filtered by where{
    	for row2 in table2 associated by table1.index1 filtered by where{
    		for row3 in table3 associated by table2.index2 filtered by where{
    			put into net-buffer then send to client;
    		}
    	}	
    }

对于不同的join方式，有下列情况：  
`Index Nested-Loop join`：

sql如下：

select a.*, b.*, c.*
    from a join c on a.a2 = c.c2 join b on c.c2 = b.b2
    where b.b1 > 4;

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 4]

其内部执行流程如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 5]

执行前mysql执行器会确定好各个表的关联顺序。首先通过where条件，筛选驱动表b的第一条记录b5，然后将用此记录的关联字段b2与第二张表a的索引a2做关联，通过Btree定位索引位置，匹配的索引可能不止一条。当匹配上一条，查看where里是否有a2的过滤条件且条件是否需要索引之外的数据，如果要则回表，用a2索引上的主键去查询数据，然后做判断。通过则用join后的信息再用同样的方式来关联第三章表c。

`Block Nested-Loop join` 和 `Batched Key Access join`: 这两个关联算法和`Index Nested-Loop join`算法类似，不过因为他们能使用join buffer，所以他们可以每次从驱动表筛选一批数据，而不是一条。同时每个join关键字就对应着一个join buffer，也就是驱动表和第二张表用一个join buffer，得到的块结果集与第三章表用一个join buffer。

#### 4. 筛选条件放置在where和on上的不同？ ####

where里可能有关于每张表的筛选条件，不同表的条件生效时期不同。对于驱动表，在执行一开始就会通过where上关于词表的条件筛选一条或者一批记录，然后通过on条件关联下一张表，将得到的结果集再用where上第二张表的条件做过滤，然后重复此过程直到所有表关联完毕。也就是对于驱动表，因为只有where生效，对于其他被驱动表，先被on关联，也就是on先生效，然后再用where过滤关联的结果集。同时对于外表连接，比如left join和right join，把条件放在on上，如果被关联表没有匹配上，那么外表还是能放入结果集的；而如果将条件放在where上，因为where是对关联后的结果做过滤，此时之前匹配的记录也会被筛选掉。

#### 5. 外连接时外表是否一定为驱动表？ ####

大部分情況下外表都是驱动表，这是因为外表在关联内表时，如果没有匹配的记录，那么会生成一条所有字段都为null的内表记录来和外表行关联，就像上图一样。用外表做驱动表，这样在Nested-Loop join时才能很容易的判断是内表是否有匹配的记录，判断是否用null来关联。但有些个别情况下，外表也可能是被驱动表，比如如下sql：

select a.*, c.* 
    from a left join c on a.a2 = c.c2 
    where a.a2 = c.c3;

![在这里插入图片描述][20200831201041891.png_pic_center]  
a和c之间的关联条件既存在于on上也存在于where上，上文说过where是过滤两表关联的结果集的，当a和c表通过on关联之后得到结果，sql如下：

select a.*, c.* 
    from a left join c on a.a2 = c.c2;

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 6]

之后再通过where里的a.a1 = c.c3筛选上述结果。要知道mysql有个规定，null和任何值都不能相比，即使同为null也是如此：

select null = null; >> null
    ```
    所以即使上述a1=7的记录行的a2值为null，a.a2 = c.c3 的值还是null，也就是此行结果被剔除。也就是a表通过on关联c表多出来的记录最终还是会被剔除，所以mysql针对这种情况作了一个优化，将left join转换为join，这样外表就有可能不作为驱动表。
    
    
    
    
    #### 6. 是否应该使用join连接查询？
    
    对于多表间查询，可以使用join关联，也可以拆成多张表的单独查询。对于join关联查询，如果使用不当，很容易造成对被驱动表的多次扫描(Block Nested-Loop join)，进而导致IO压力增大，同时多次的扫面被驱动表，会导致被驱动表的数据页被置入mysql buffer-pool的young区域，一次join就替换掉之前真正的热点数据页。
    
    正常一次查询仅全表扫描一次数据的话，数据页会被放入buffer pool的old区域的前端，但是如果一个数据页在第一次使用时，如果不在buffer pool，那么会加载到buffer pool，放在old区域的前端，但是如果这个数据页在buffer pool，且距离上次使用时间超过1S，也就是join查询时间超过1S，那么就会把数据页放到buffer pool的young区域，也就是热点区域，这样会导致原先真正的热点数据被替换。这样即使join查询结束了，对mysql的性能有很直接的负面影响，也就是buffer pool内存命中率突然暴跌，查询时间突然变长，很多都需要读取磁盘，需要很长时间才能恢复。
    
    所以，对于大表的关联查询，如果没有使用上索引，也就是on的字段没有索引，通过explain能看到Extra里有Using join buffer(Block Nested Loop)，那么就不要使用join了。当然能使用上使用的join查询还是比单表查询来的快的，同时还能很方便的做结果筛选。

[20200831192408558.png_pic_center]: /images/20210813/9ae6fbbd19204419967c77aa4d5d0f39.png
[20200831192453895.png_pic_center]: /images/20210813/000bde4cf69c46e8b762d5bcca257771.png
[20200831193702295.png_pic_center]: /images/20210813/d4f6edf1675046d5a1e0750484bb43fa.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center]: /images/20210813/e10995396d9043888f542c2966ae501e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20210813/0b50a749cbe94bd79fa1bbdb23d3a7a0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20210813/555144d1ecd64614a2cad005e638f333.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20210813/70ed4332503947199c8e7cd501c5b2c3.png
[20200831195353440.png_pic_center]: /images/20210813/2fdb931580554fd495f65fed9fd9a576.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20210813/c236d7f702e74bcbb5fc9d9d77048acf.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20210813/dc3c34c3e4484d649391a39255667a16.png
[20200831201041891.png_pic_center]: /images/20210813/31ba66d494a74b7492e37be1e3094cf7.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2NvbGRfX19wbGF5_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20210813/7d2c7a85166740c99304eb029bdfbf89.png