SQL性能优化

2021-09-22 19:38 794阅读 0赞

## 你在项目中碰到过什么问题 你是怎么解决的 ##

**我的个人回答：之前在做货品管理项目的时候，涉及到进销存单据的查询，会遇到查询很慢，甚至查询失败的情况，我一般都会查阅自己写的SQL，并做一定的性能优化。**

我之前写过MySql、SQLServer、Oracle 数据分页查询，有兴趣可以查看我的博客：  
[https://blog.csdn.net/weixin\_43287508/article/details/86627085][https_blog.csdn.net_weixin_43287508_article_details_86627085]

## 数据库优化 ##

1、优化索引、sql语句、分析慢查询  
2、设计表的时候严格根据数据的设计规范来设计数据库  
3、使用缓存，吧经常访问到的数据而且不需要变化的数据放到缓存中  
4、使用固态硬盘  
5、采用MYSQL内部自带的表分区技术，吧数据分层到不同的文件中，能够提高餐盘的读写效率  
6、垂直分表，吧一些不经常用到的数据放到一个表中，节约磁盘的I/O  
7、主从分离读写，采取主从复制把数据库的读操作和写操作分离出来  
8、数据库分表分机器（数据特变大的），主要的原理就是数据路由  
9、选择合适的表引擎，对参数地上的优化  
10、进行加购级别的缓存，静态化和分布式。  
11、不采用全文索引吗，用什么搜什么  
12、采用更快的处分方式，例如NoSql储存经常访问的数据

## sql语句优化 ##

要提高SQL查询效率where语句条件的先后次序应如何写 ，我们要做到不但会写SQL，还要做到写出性能优良的SQL语句。

**（1）选择最有效率的表名顺序(只在基于规则的优化器中有效)：**

Oracle的解析器按照从右到左的顺序处理FROM子句中的表名，FROM子句中写在最后的表(基础表 driving table)将被最先处理，在FROM子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表。如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表。

**（2）WHERE子句中的连接顺序：**

Oracle采用自下而上的顺序解析WHERE子句,根据这个原理,表之间的连接必须写在其他WHERE条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE子句的末尾。

（**3）SELECT子句中避免使用‘\*’：**

Oracle在解析的过程中, 会将‘\*’依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间。

**（4）减少访问数据库的次数：**

Oracle在内部执行了许多工作: 解析SQL语句, 估算索引的利用率, 绑定变量 , 读数据块等。

**（5）查询时使用数据库分页**

查询时使用数据库分页, 可以增加每次数据库访问的检索数据量 ,建议值为200。

**（6）使用DECODE函数来减少处理时间：**

使用DECODE函数可以避免重复扫描相同记录或重复连接相同的表。

**（7）整合简单,无关联的数据库访问：**

如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有关系)。

**（8）删除重复记录：**

最高效的删除重复记录方法 ( 因为使用了ROWID)例子：  
DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID) FROM EMP X WHERE X.EMP\_NO = E.EMP\_NO);

**（9）用TRUNCATE替代DELETE：**

当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT事务,ORACLE会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE时, 回滚段不再存放任何可被恢复的信息。当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短。（TRUNCATE只在删除全表适 用,TRUNCATE是DDL不是DML）。

**（10）事务处理（避免插入数据失败或者锁表）：**  
没有提交也没有回滚，会导致表一直锁着，那么在此期间如果有涉及被锁表的操作，就一直等着。但是sql server进程重启的话，就会解除锁定，相当于回滚，你的操作等于取消

1、只要有可能，在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少，COMMIT所释放的资源:

2、Rollback回滚段上用于恢复数据的信息。

**（11）用Where子句替换HAVING子句：**

避免使用HAVING子句，HAVING 只会在检索出所有记录之后才对结果集进行过滤。这个处理需要排序,总计等操作。如果能通过WHERE子句限制记录的数目，那就能减少这方面的开销。(非 oracle中)on、where、having这三个都可以加条件的子句中，on是最先执行，where次之，having最后，因为on是先把不符合 条件的记录过滤后才进行统计，它就可以减少中间运算要处理的数据，按理说应该速度是最快的，where也应该比having快点的，因为它过滤数据后才进 行sum，在两个表联接时才用on的，所以在一个表的时候，就剩下where跟having比较了。在这单表查询统计的情况下，如果要过滤的条件没有涉及 到要计算字段，那它们的结果是一样的，只是where可以使用rushmore技术，而having就不能，在速度上后者要慢如果要涉及到计算的字段，就 表示在没计算之前，这个字段的值是不确定的，根据上篇写的工作流程，where的作用时间是在计算之前就完成的，而having就是在计算后才起作用的， 所以在这种情况下，两者的结果会不同。在多表联接查询时，on比where更早起作用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再 由where进行过滤，然后再计算，计算完后再由having进行过滤。由此可见，要想过滤条件起到正确的作用，首先要明白这个条件应该在什么时候起作 用，然后再决定放在那里。

**（12）减少对表的查询：**  
在含有子查询的SQL语句中,要特别注意减少对表的查询。例子：

SELECT TAB\_NAME FROM TABLES WHERE (TAB\_NAME,DB\_VER) = ( SELECTTAB\_NAME,DB\_VER FROM TAB\_COLUMNS WHERE VERSION = 604)

**（13）通过内部函数提高SQL效率：**

复杂的SQL往往牺牲了执行效率。能够掌握上面的运用函数解决问题的方法在实际工作中是非常有意义的。

**（14）使用表的别名(Alias)：**  
当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column上。这样一来,就可以减少解析的时间并减少那些由Column歧义引起的语法错误。

**（15）用EXISTS替代IN、用NOT EXISTS替代NOT IN：**

在许多基于基础表的查询中，为了满足一个条件,往往需要对另一个表进行联接。在这种情况下，使用EXISTS(或NOT EXISTS)通常将提高查询的效率。在子查询中，NOT IN子句将执行一个内部的排序和合并。无论在哪种情况下，NOT IN都是最低效的 (因为它对子查询中的表执行了一个全表遍历)。为了避免使用NOT IN ，我们可以把它改写成外连接(Outer Joins)或NOT EXISTS。

例子：  
（高效）SELECT \* FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X’ FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB’)(低效)SELECT \* FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEPTNO FROM DEPT WHERE LOC = ‘MELB’)

**（16）识别‘低效执行’的SQL语句：**

虽然目前各种关于SQL优化的图形化工具层出不穷,但是写出自己的SQL工具来解决问题始终是一个最好的方法：

SELECT EXECUTIONS , DISK\_READS, BUFFER\_GETS, ROUND((BUFFER\_GETS-DISK\_READS)/BUFFER\_GETS,2) Hit\_radio, ROUND(DISK\_READS/EXECUTIONS,2) Reads\_per\_run, SQL\_TEXT FROM V$SQLAREA WHERE EXECUTIONS>0 AND BUFFER\_GETS > 0 AND (BUFFER\_GETS-DISK\_READS)/BUFFER\_GETS < 0.8 ORDER BY 4 DESC;

**（17）索引表，用来提高检索数据的效率：**  
Oracle使用了一个复杂的自平衡B-tree结构。通常,通过索引查询数据比全表扫描要快。当 Oracle找出执行查询和Update语句的最佳路径时, Oracle优化器将使用索引。同样在联结多个表时使用索引也可以提高效率。另一个使用索引的好处是,它提供了主键(primary key)的唯一性验证。那些LONG或LONG RAW数据类型, 你可以索引几乎所有的列。通常, 在大型表中使用索引特别有效. 当然,你也会发现, 在扫描小表时，使用索引同样能提高效率。虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价。索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改。这意味着每条记录的INSERT，DELETE ， UPDATE将为此多付出4、 5次的磁盘I/O 。因为索引需要额外的存储空间和处理，那些不必要的索引反而会使查询反应时间变慢。定期的重构索引是有必要的：

ALTER INDEX REBUILD

**（18）用EXISTS替换DISTINCT：**

当提交一个包含一对多表信息(比如部门表和雇员表)的查询时，避免在SELECT子句中使用DISTINCT。一般可以考虑用EXIST替换， EXISTS 使查询更为迅速，因为RDBMS核心模块将在子查询的条件一旦满足后，立刻返回结果。例子：

(低效): SELECT DISTINCT DEPT\_NO,DEPT\_NAME FROM DEPT D , EMP E WHERE D.DEPT\_NO = E.DEPT\_NO (高效): SELECT DEPT\_NO,DEPT\_NAME FROM DEPT D WHERE EXISTS ( SELECT ‘X’ FROM EMP E WHERE E.DEPT\_NO = D.DEPT\_NO);

**（19）SQL语句用大写的；**  
因为Oracle总是先解析SQL语句，把小写的字母转换成大写的再执行。

**（20）在Java代码中尽量少用连接符“＋”连接字符串**

**（21）避免在索引列上使用NOT**  
我们要避免在索引列上使用NOT, NOT会产生在和在索引列上使用函数相同的影响。当Oracle“遇到”NOT,他就会停止使用索引转而执行全表扫描。

**（22）避免在索引列上使用计算。**  
WHERE子句中，如果索引列是函数的一部分。优化器将不使用索引而使用全表扫描。

低效： SELECT … FROM DEPT WHERE SAL \* 12 > 25000; 高效: SELECT … FROM DEPT WHERE SAL > 25000/12;

**（23）用>=替代>：**

高效：SELECT \* FROM EMP WHERE DEPTNO >=4 低效: SELECT \* FROM EMP WHERE DEPTNO >3

两者的区别在于，前者DBMS将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPTNO=3的记录并且向前扫描到第一个DEPT大于3的记 录。

**（24）用UNION替换OR (适用于索引列)：**

通常情况下，用UNION替换WHERE子句中的OR将会起到较好的效果。对索引列使用OR将造成全表扫描。注意，以上规则只针对多个索引列有效。如果有 column没有被索引，查询效率可能会因为你没有选择OR而降低。在下面的例子中，LOC\_ID 和REGION上都建有索引。

高效：SELECT LOC\_ID 。 LOC\_DESC ，REGION FROM LOCATION WHERE LOC\_ID = 10 UNION SELECT LOC\_ID ，LOC\_DESC ，REGION FROM LOCATION WHERE REGION = “MELBOURNE”

低效: SELECT LOC\_ID ，LOC\_DESC ，REGION FROM LOCATION WHERE LOC\_ID = 10 OR REGION = “MELBOURNE”

**（25）用IN来替换OR：**

这是一条简单易记的规则，但是实际的执行效果还须检验，在Oracle8i下，两者的执行路径似乎是相同的:

低效:

SELECT…. FROM LOCATION WHERE LOC\_ID = 10 OR LOC\_ID = 20 OR LOC\_ID = 30

高效：

SELECT… FROM LOCATION WHERE LOC\_IN IN (10,20,30);

**（26）避免在索引列上使用IS NULL和IS NOT NULL：**

避免在索引中使用任何可以为空的列，Oracle将无法使用该索引。对于单列索引，如果列包含空值，索引中将不存在此记录。对于复合索引，如果每个列都为 空，索引中同样不存在此记录。如果至少有一个列不为空，则记录存在于索引中。举例：如果唯一性索引建立在表的A列和B列上，并且表中存在一条记录的A，B 值为(123，null)， Oracle将不接受下一条具有相同A，B值（123,null）的记录(插入)。 然而如果所有的索引列都为空，Oracle将认为整个键值为空而空不等于空。因此你可以插入1000 条具有相同键值的记录,当然它们都是空! 因为空值不存在于索引列中,所以WHERE子句中对索引列进行空值比较将使ORACLE停用该索引。

低效: (索引失效)

SELECT … FROM DEPARTMENT WHERE DEPT\_CODE IS NOT NULL;

高效：(索引有效)

SELECT … FROM DEPARTMENT WHERE DEPT\_CODE >=0;

**（27）总是使用索引的第一个列：**  
如果索引是建立在多个列上，只有在它的第一个列(leading column)被where子句引用时，优化器才会选择使用该索引。这也是一条简单而重要的规则，当仅引用索引的第二个列时，优化器使用了全表扫描而忽略 了索引。

**（28）用UNION-ALL 替换UNION ( 如果有可能的话)：**

当SQL语句需要UNION两个查询结果集合时，这两个结果集合会以UNION-ALL的方式被合并，然后在输出最终结果前进行排序。如果用UNION ALL替代UNION，这样排序就不是必要了。效率就会因此得到提高。需要注意的是，UNION ALL 将重复输出两个结果集合中相同记录。因此各位还是要从业务需求分析使用UNION ALL的可行性。 UNION 将对结果集合排序,这个操作会使用到SORT\_AREA\_SIZE这块内存。对于这块内存的优化也是相当重要的。下面的SQL可以用来查询排序的消耗量：

低效： SELECT ACCT\_NUM, BALANCE\_AMT FROM DEBIT\_TRANSACTIONS WHERE TRAN\_DATE = ‘31-DEC-95’ UNION SELECT ACCT\_NUM, BALANCE\_AMT FROM DEBIT\_TRANSACTIONS WHERE TRAN\_DATE = ‘31-DEC-95’ 高效: SELECT ACCT\_NUM, BALANCE\_AMT FROM DEBIT\_TRANSACTIONS WHERE TRAN\_DATE = ‘31-DEC-95’ UNION ALL SELECT ACCT\_NUM, BALANCE\_AMT FROM DEBIT\_TRANSACTIONS WHERE TRAN\_DATE = ‘31-DEC-95’

**（29）用WHERE替代ORDER BY：**

ORDER BY 子句只在两种严格的条件下使用索引。

ORDER BY中所有的列必须包含在相同的索引中并保持在索引中的排列顺序。

ORDER BY中所有的列必须定义为非空。

WHERE子句使用的索引和ORDER BY子句中所使用的索引不能并列。

例如: 表DEPT包含以下列:

DEPT\_CODE PK NOT NULL

DEPT\_DESC NOT NULL

DEPT\_TYPE NULL

低效: (索引不被使用)

SELECT DEPT\_CODE FROM DEPT ORDER BY DEPT\_TYPE

高效: (使用索引)

SELECT DEPT\_CODE FROM DEPT WHERE DEPT\_TYPE > 0

**（30）避免改变索引列的类型:**

当比较不同数据类型的数据时， ORACLE自动对列进行简单的类型转换。 假设 EMPNO是一个数值类型的索引列：SELECT … FROM EMP WHERE EMPNO = ‘123’。 实际上,经过Oracle类型转换, 语句转化为: SELECT … FROM EMP WHERE EMPNO = TO\_NUMBER(‘123’) 。

幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变。现在,假设EMP\_TYPE是一个字符类型的索引列：SELECT … FROM EMP WHERE EMP\_TYPE = 123 。

这个语句被Oracle转换为: SELECT … FROM EMP WHERETO\_NUMBER(EMP\_TYPE)=123。因为内部发生的类型转换， 这个索引将不会被用到! 为了避免Oracle对你的SQL进行隐式的类型转换，最好把类型转换用显式表现出来。注意当字符和数值比较时，Oracle会优先转换数值类型到字符类 型。

**（31）需要当心的WHERE子句:**

某些SELECT 语句中的WHERE子句不使用索引。这里有一些例子：

(1)‘!=’ 将不使用索引。记住, 索引只能告诉你什么存在于表中, 而不能告诉你什么不存在于表中。

(2)‘||'是字符连接函数。就象其他函数那样, 停用了索引。

(3)‘+'是数学函数。就象其他数学函数那样, 停用了索引。

(4)相同的索引列不能互相比较,这将会启用全表扫描。

**（32）避免全表扫描**  
a. 如果检索数据量超过30%的表中记录数，使用索引将没有显著的效率提高。

b. 在特定情况下，使用索引也许会比全表扫描慢，但这是同一个数量级上的区别。而通常情况下,使用索引比全表扫描要块几倍乃至几千倍！

**（33）避免使用耗费资源的操作：**

带有DISTINCT,UNION,MINUS,INTERSECT,ORDER BY的SQL语句会启动SQL引擎执行耗费资源的排序(SORT)功能。DISTINCT需要一次排序操作，而其他的至少需要执行两次排序。通常，带有 UNION, MINUS , INTERSECT的SQL语句都可以用其他方式重写。如果你的数据库的SORT\_AREA\_SIZE调配得好。使用UNION , MINUS, INTERSECT也是可以考虑的, 毕竟它们的可读性很强。

**（34）优化GROUP BY：**

提高GROUP BY 语句的效率，可以通过将不需要的记录在GROUP BY 之前过滤掉。下面两个查询返回相同结果但第二个明显就快了许多。

低效: SELECT JOB , AVG(SAL) FROM EMP GROUP JOB HAVING JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’ 高效: SELECT JOB , AVG(SAL) FROM EMP WHERE JOB = ‘PRESIDENT’ OR JOB = ‘MANAGER’ GROUP JOB

[https_blog.csdn.net_weixin_43287508_article_details_86627085]: https://blog.csdn.net/weixin_43287508/article/details/86627085