mysql大数据量分页查询优化技巧

骑猪看日落 2022-06-17 05:06 384阅读 0赞

PS：我们知道mysql使用Limit实现了分页查询，在我们平常的Web开发中常用一些通用的分页查询jar包，比如说有名的中国开发者实现的java Pagehelper（Github地址https://github.com/pagehelper/Mybatis-PageHelper），但是呢只考虑了应用开发中的方便性，没有考虑数据库的性能，用户体验对于互联网时代是非常重要的，应用服务器相应的性能更是占主导的地位，所以我觉得对于数据表分页的语句不应该使用第三方的通用jar包，这样我们在使用数据库优化技巧索引等技术的时候才能起到相应的作用。

**以下转载至 http://www.cnblogs.com/lpfuture/p/5772055.html  **

mysql大数据量使用limit分页，随着页码的增大，查询效率越低下。  
测试实验  
**1.   直接用limit start, count分页语句， 也是我程序中用的方法：**  
select \* from product limit start, count  
当起始页较小时，查询没有性能问题，我们分别看下从10， 100， 1000， 10000开始分页的执行时间（每页取20条）， 如下：  
select \* from product limit 10, 20   0.016秒  
select \* from product limit 100, 20   0.016秒  
select \* from product limit 1000, 20   0.047秒  
select \* from product limit 10000, 20   0.094秒  
我们已经看出随着起始记录的增加，时间也随着增大， 这说明分页语句limit跟起始页码是有很大关系的，那么我们把起始记录改为40w看下（也就是记录的一般左右）                                    select \* from product limit 400000, 20   3.229秒  
再看我们取最后一页记录的时间  
select \* from product limit 866613, 20   37.44秒  
难怪搜索引擎抓取我们页面的时候经常会报超时，像这种分页最大的页码页显然这种时  
间是无法忍受的。  
从中我们也能总结出两件事情：  
*1）limit语句的查询时间与起始记录的位置成正比  
2）mysql的limit语句是很方便，但是对记录很多的表并不适合直接使用。*  
**2.   对limit分页问题的性能优化方法**  
利用表的覆盖索引来加速分页查询  
我们都知道，利用了索引查询的语句中如果只包含了那个索引列（覆盖索引），那么这种情况会查询很快。  
因为利用索引查找有优化算法，且数据就在查询索引上面，不用再去找相关的数据地址了，这样节省了很多时间。另外Mysql中也有相关的索引缓存，在并发高的时候利用缓存就效果更好了。  
在我们的例子中，我们知道id字段是主键，自然就包含了默认的主键索引。现在让我们看看利用覆盖索引的查询效果如何：  
这次我们之间查询最后一页的数据（利用覆盖索引，只包含id列），如下：  
select id from product limit 866613, 20 0.2秒  
相对于查询了所有列的37.44秒，提升了大概100多倍的速度  
那么如果我们也要查询所有列，有两种方法，一种是id>=的形式，另一种就是利用join，看下实际情况：  
SELECT \* FROM product WHERE ID > =(select id from product limit 866613, 1) limit 20  
查询时间为0.2秒，简直是一个质的飞跃啊，哈哈  
另一种写法  
SELECT \* FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id   **\*统配符号在实际查询的中不应该使用，应该指明相应的属性，效率更好**  
查询时间也很短，赞！  
其实两者用的都是一个原理嘛，所以效果也差不多