MySQL 中的 distinct 和 group by 哪个效率更高

落日映苍穹つ 2023-10-04 23:32 40阅读 0赞

先说大致的结论（完整结论在文末）：

> 在语义相同，有索引的情况下：group by和distinct都能使用索引，效率相同。  
> 在语义相同，无索引的情况下：distinct效率高于group by。原因是distinct 和 group  
> by都会进行分组操作，但group by可能会进行排序，触发filesort，导致sql执行效率低下。

基于这个结论，你可能会问：

为什么在语义相同，有索引的情况下，group by和distinct效率相同？  
在什么情况下，group by会进行排序操作？  
带着这两个问题找答案。接下来，我们先来看一下distinct和group by的基础使用。

distinct的使用

distinct用法

SELECT DISTINCT columns FROM table_name WHERE where_conditions;

![在这里插入图片描述][8c9e321552dd4d2698cb669cd038c1ac.png_pic_center]

DISTINCT 关键词用于返回唯一不同的值。放在查询语句中的第一个字段前使用，且作用于主句所有列。

如果列具有NULL值，并且对该列使用DISTINCT子句，MySQL将保留一个NULL值，并删除其它的NULL值，因为DISTINCT子句将所有NULL值视为相同的值。

distinct多列去重  
distinct多列的去重，则是根据指定的去重的列信息来进行，即只有所有指定的列信息都相同，才会被认为是重复的信息。

![在这里插入图片描述][8a6cb039737146dc99ec4fb8aec44096.png_pic_center]  
group by的使用  
对于基础去重来说，group by的使用和distinct类似:  
单列去重  
语法：  
![在这里插入图片描述][c826ed6bdf2b49798d8225e4b1241055.png_pic_center]  
多列去重  
语法：

SELECT columns FROM table_name WHERE where_conditions GROUP BY columns;

执行：

mysql> select sex,age from student group by sex,age;
    +--------+------+
    | sex    | age  |
    +--------+------+
    | male   |   10 |
    | female |   12 |
    | male   |   11 |
    | male   | NULL |
    | female |   11 |
    +--------+------+
    5 rows in set (0.03 sec)

区别示例  
两者的语法区别在于，group by可以进行单列去重，group by的原理是先对结果进行分组排序，然后返回每组中的第一条数据。且是根据group by的后接字段进行去重的。

例如：

mysql> select sex,age from student group by sex;
    +--------+-----+
    | sex    | age |
    +--------+-----+
    | male   |  10 |
    | female |  12 |
    +--------+-----+
    2 rows in set (0.03 sec)

distinct和group by原理  
在大多数例子中，DISTINCT可以被看作是特殊的GROUP BY，它们的实现都基于分组操作，且都可以通过松散索引扫描、紧凑索引扫描(关于索引扫描的内容会在其他文章中详细介绍，就不在此细致介绍了)来实现。  
DISTINCT和GROUP BY都是可以使用索引进行扫描搜索的。例如以下两条sql（只单单看表格最后extra的内容），我们对这两条sql进行分析，可以看到，在extra中，这两条sql都使用了紧凑索引扫描Using index for group-by。

所以，在一般情况下，对于相同语义的DISTINCT和GROUP BY语句，我们可以对其使用相同的索引优化手段来进行优化。

但对于GROUP BY来说，在MYSQL8.0之前，GROUP Y默认会依据字段进行隐式排序。

可以看到，下面这条sql语句在使用了临时表的同时，还进行了filesort。

隐式排序  
对于隐式排序，我们可以参考Mysql官方的解释：

https://dev.mysql.com/doc/refman/5.7/en/order-by-optimization.html

> GROUP BY implicitly sorts by default (that is, in the absence of ASC  
> or DESC designators for GROUP BY columns). However, relying on  
> implicit GROUP BY sorting (that is, sorting in the absence of ASC or  
> DESC designators) or explicit sorting for GROUP BY (that is, by using  
> explicit ASC or DESC designators for GROUP BY columns) is deprecated.  
> To produce a given sort order, provide an ORDER BY clause.

GROUP BY 默认隐式排序（指在 GROUP BY 列没有 ASC 或 DESC 指示符的情况下也会进行排序）。然而，GROUP BY进行显式或隐式排序已经过时（deprecated）了，要生成给定的排序顺序，请提供 ORDER BY 子句。

所以，在Mysql8.0之前,Group by会默认根据作用字段（Group by的后接字段）对结果进行排序。在能利用索引的情况下，Group by不需要额外进行排序操作；但当无法利用索引排序时，Mysql优化器就不得不选择通过使用临时表然后再排序的方式来实现GROUP BY了。

且当结果集的大小超出系统设置临时表大小时，Mysql会将临时表数据copy到磁盘上面再进行操作，语句的执行效率会变得极低。这也是Mysql选择将此操作（隐式排序）弃用的原因。

基于上述原因，Mysql在8.0时，对此进行了优化更新：

https://dev.mysql.com/doc/refman/8.0/en/order-by-optimization.html

> Previously (MySQL 5.7 and lower), GROUP BY sorted implicitly under  
> certain conditions. In MySQL 8.0, that no longer occurs, so specifying  
> ORDER BY NULL at the end to suppress implicit sorting (as was done  
> previously) is no longer necessary. However, query results may differ  
> from previous MySQL versions. To produce a given sort order, provide  
> an ORDER BY clause.

大致解释一下：

从前（Mysql5.7版本之前），Group by会根据确定的条件进行隐式排序。在mysql 8.0中，已经移除了这个功能，所以不再需要通过添加order by null 来禁止隐式排序了，但是，查询结果可能与以前的 MySQL 版本不同。要生成给定顺序的结果，请按通过ORDER BY指定需要进行排序的字段。

因此，我们的结论也出来了：
    
    在语义相同，有索引的情况下：
    group by和distinct都能使用索引，效率相同。因为group by和distinct近乎等价，distinct可以被看做是特殊的group by。
    
    在语义相同，无索引的情况下：
    distinct效率高于group by。原因是distinct 和 group by都会进行分组操作，但group by在Mysql8.0之前会进行隐式排序，导致触发filesort，sql执行效率低下。
    
    但从Mysql8.0开始，Mysql就删除了隐式排序，所以，此时在语义相同，无索引的情况下，group by和distinct的执行效率也是近乎等价的。
    
    推荐group by的原因
    
    group by语义更为清晰
    group by可对数据进行更为复杂的一些处理
    相比于distinct来说，group by的语义明确。且由于distinct关键字会对所有字段生效，在进行复合业务处理时，group by的使用灵活性更高，group by能根据分组情况，对数据进行更为复杂的处理，例如通过having对数据进行过滤，或通过聚合函数对数据进行运算。

[8c9e321552dd4d2698cb669cd038c1ac.png_pic_center]: https://img-blog.csdnimg.cn/8c9e321552dd4d2698cb669cd038c1ac.png#pic_center
[8a6cb039737146dc99ec4fb8aec44096.png_pic_center]: https://img-blog.csdnimg.cn/8a6cb039737146dc99ec4fb8aec44096.png#pic_center
[c826ed6bdf2b49798d8225e4b1241055.png_pic_center]: https://img-blog.csdnimg.cn/c826ed6bdf2b49798d8225e4b1241055.png#pic_center