sql性能优化总结 2022-04-17 12:22 213阅读 0赞 最近在帮一同学做数据库优化,查了一下资料,觉得很不错。 **一. 目的** 数据库参数进行优化所获得的性能提升全部加起来只占数据库应用系统性能提升的40%左右,其余60%的系统性能提升全部来自对应用程序的优化。许多优化专家甚至认为对应用程序的优化可以得到80%的系统性能提升。因此可以肯定,通过优化应用程序来对数据库系统进行优化能获得更大的收益。 对应用程序的优化通常可分为两个方面: 源代码的优化和SQL语句的优化。由于涉及到对程序逻辑的改变,源代码的优化在时间成本和风险上代价很高(尤其是对正在使用中的系统进行优化) 。另一方面,源代码的优化对数据库系统性能的提升收效有限,因为应用程序对数据库的操作最终要表现为SQL语句对数据库的操作。 对SQL语句进行优化有以下一些直接原因: 1. SQL语句是对数据库(数据) 进行操作的惟一途径,应用程序的执行最终要归结为SQL语句的执行,SQL语句的效率对数据库系统的性能起到了决定性的作用。 2. SQL语句消耗了70%~90%的数据库资源。 3. SQL语句独立于程序设计逻辑,对SQL语句进行优化不会影响程序逻辑,相对于对程序源代码的优化,对SQL语句的优化在时间成本和风险上的代价都很低。 4. SQL语句可以有不同的写法,不同的写法在性能上的差异可能很大。 5. SQL语句易学,难精通。SQL语句的性能往往同实际运行系统的数据库结构、记录数量等有关,不存在普遍适用的规律来提升性能。 **二. 优化数据库的思想:** 1、关键字段建立索引。 2、使用存储过程,它使SQL变得更加灵活和高效。 3、备份数据库和清除垃圾数据。 4、SQL语句语法的优化。 5、清理删除日志。 **三.SQL语句优化的原则:** 不要以为只有SELECT语句是查询。实际上,带有任何WHERE条件的 DML(INSERT、UPDATE、DELETE)语句中都包含查询要求,在后面的文章中,当说到查询时,不一定只是指SELECT语句,也有可能指 DML语句中的查询部分。 我们知道,SQL语句同其它语言(如C语言)的语句不一样,它是非过程化(non-procedural)的语句,即当你要取数据时,不需要告诉数据库通过何种途径去取数据,如到底是通过索引取数据,还是应该将表中的每行数据都取出来,然后再通过一一比较的方式取数据(即全表扫描)。 为了实现一个查询,内核必须为每个查询定制一个查询策略,或为取出符合条件的数据生成一个执行计划(execution plan)。典型的,对于同一个查询,可能有几个执行计划都符合要求,都能得到符合条件的数据。例如,参与连接的表可以有多种不同的连接方法,这取决于连接条件和优化器采用的连接方法。为了在多个执行计划中选择最优的执行计划,优化器必须使用一些实际的指标来衡量每个执行计划使用的资源(I/0次数、 CPU等),这些资源也就是我们所说的代价(cost)。如果一个执行计划使用的资源多,我们就说使用执行计划的代价大。以执行计划的代价大小作为衡量标 准,优化器选择代价最小的执行计划作为真正执行该查询的执行计划,并抛弃其它的执行计划。 3.1 选择最有效率的表名顺序 在FROM子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表.首先,扫描第一个表(FROM子句中最后的那个表)并对记录进行派序,然后扫描第二个表(FROM子句中最后第二个表),最后将所有从第二个表中检索出的记录与第一个表中合适记录进行合并. 基础表(Driving Table)是指被最先访问的表(通常以全表扫描的方式被访问). 例如: 表 TAB1 16,384 条记录 表 TAB2 1 条记录 选择TAB2作为基础表 (最好的方法) select count(\*) from tab1,tab2 执行时间0.96秒 oracle测试标准 选择TAB1作为基础表 (不佳的方法) select count(\*) from tab2,tab1 执行时间26.09秒 如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表. 例如: EMP表描述了LOCATION表和CATEGORY表的交集. SELECT \* FROM LOCATION L , CATEGORY C, EMP E WHERE E.EMP\_NO BETWEEN 1000 AND 2000 AND E.CAT\_NO = C.CAT\_NO AND E.LOCN = L.LOCN 将比下列SQL更有效率 SELECT \* FROM EMP E , LOCATION L , CATEGORY C WHERE E.CAT\_NO = C.CAT\_NO AND E.LOCN = L.LOCN AND E.EMP\_NO BETWEEN 1000 AND 2000 3.3 WHERE子句中的连接顺序 采用自下而上的顺序解析WHERE子句,根据这个原理,表之间的连接必须写在其他WHERE条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE子句的末尾。同时在链接的表中能过滤的就应该先进行过滤。 例如: (低效,执行时间156.3秒) SELECT … FROM EMP E WHERE SAL > 50000 AND JOB = ‘MANAGER’ AND 25 < (SELECT COUNT(\*) FROM EMP WHERE MGR=E.EMPNO); (高效,执行时间10.6秒) SELECT … FROM EMP E WHERE 25 < (SELECT COUNT(\*) FROM EMP WHERE MGR=E.EMPNO) AND SAL > 50000 AND JOB = ‘MANAGER’; 3.2 SELECT子句中避免使用 ‘ \* ‘ 当你想在SELECT子句中列出所有的COLUMN时,使用动态SQL列引用 ‘\*’ 是一个方便的方法.但这是一个非常低效的方法. 实际上,在解析的过程中, 会将’\*’ 依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间. 3.3 尽量多使用COMMIT 只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少: COMMIT所释放的资源: a. 回滚段上用于恢复数据的信息. b. 被程序语句获得的锁 c. redo log buffer 中的空间 3.4 计算记录条数 和一般的观点相反, count(\*) 比count(1)稍快 , 当然如果可以通过索引检索,对索引列的计数仍旧是最快的. 例如 COUNT(EMPNO) 3.5 用Where子句替换HAVING子句 避免使用HAVING子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤. 这个处理需要排序,总计等操作. 如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销. 例如: 低效: SELECT REGION,AVG(LOG\_SIZE) FROM LOCATION GROUP BY REGION HAVING REGION REGION != ‘SYDNEY’ AND REGION != ‘PERTH’ 高效 SELECT REGION,AVG(LOG\_SIZE) FROM LOCATION WHERE REGION REGION != ‘SYDNEY’ AND REGION != ‘PERTH’ GROUP BY REGION; HAVING 中的条件一般用于对一些集合函数的比较,如COUNT() 等等. 除此而外,一般的条件应该写在WHERE子句中 3.6通过内部函数提高SQL效率 3.7 使用表的别名(Alias) 当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column上.这样一来,就可以减少解析的时间并减少那些由Column歧义引起的语法错误. 3.8用EXISTS替代IN 3.9用NOT EXISTS替代NOT IN 3.10 用表连接替换EXISTS 通常来说 , 采用表连接的方式比EXISTS更有效率 SELECT ENAME FROM EMP E WHERE EXISTS (SELECT ‘X’ FROM DEPT WHERE DEPT\_NO = E.DEPT\_NO AND DEPT\_CAT = ‘A’); (更高效) SELECT ENAME FROM DEPT D,EMP E WHERE E.DEPT\_NO = D.DEPT\_NO AND DEPT\_CAT = ‘A’ ; 3.11用索引提高效率 索引是表的一个概念部分,用来提高检索数据的效率. 虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DELETE , UPDATE将为此多付出4 , 5 次的磁盘I/O . 因为索引需要额外的存储空间和处理,那些不必要的索引反而会使查询反应时间变慢. 3.12避免在索引列上使用计算 WHERE子句中,如果索引列是函数的一部分.优化器将不使用索引而使用全表扫描 举例: 低效: SELECT … FROM DEPT WHERE SAL \* 12 > 25000; 高效: SELECT … FROM DEPT WHERE SAL > 25000/12; 非常实用的规则,请务必牢记 3.13 自动选择索引 如果表中有两个以上(包括两个)索引,其中有一个唯一性索引,而其他是非唯一性. 在这种情况下,ORACLE将使用唯一性索引而完全忽略非唯一性索引. 举例: SELECT ENAME FROM EMP WHERE EMPNO = 2326 AND DEPTNO = 20 ; 这里,只有EMPNO上的索引是唯一性的,所以EMPNO索引将用来检索记录. TABLE ACCESS BY ROWID ON EMP INDEX UNIQUE SCAN ON EMP\_NO\_IDX 3.14 避免在索引列上使用NOT 通常, 我们要避免在索引列上使用NOT, NOT会产生在和在索引列上使用函数相同的 影响. 3.15 用>=替代> 如果DEPTNO上有一个索引, 高效: SELECT \* FROM EMP WHERE DEPTNO >=4 低效: SELECT \* FROM EMP WHERE DEPTNO >3 两者的区别在于, 前者DBMS将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPTNO=3的记录并且向前扫描到第一个DEPT大于3的记录. 3.16 用UNION替换OR (适用于索引列) 通常情况下, 用UNION替换WHERE子句中的OR将会起到较好的效果. 对索引列使用OR将造成全表扫描. 注意,以上规则只针对多个索引列有效. 如果有column没有被索引, 查询效率可能会因为你没有选择OR而降低. 在下面的例子中, LOC\_ID 和REGION上都建有索引. 高效: SELECT LOC\_ID , LOC\_DESC , REGION FROM LOCATION WHERE LOC\_ID = 10 UNION SELECT LOC\_ID , LOC\_DESC , REGION FROM LOCATION WHERE REGION = “MELBOURNE” 低效: SELECT LOC\_ID , LOC\_DESC , REGION FROM LOCATION WHERE LOC\_ID = 10 OR REGION = “MELBOURNE” 如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面. 3.17 用IN来替换OR 低效: SELECT…. FROM LOCATION WHERE LOC\_ID = 10 OR LOC\_ID = 20 OR LOC\_ID = 30 高效 SELECT… FROM LOCATION WHERE LOC\_IN IN (10,20,30); 3.18 避免在索引列上使用IS NULL和IS NOT NULL 避免在索引中使用任何可以为空的列, 3.19 总是使用索引的第一个列 如果索引是建立在多个列上, 只有在它的第一个列(leading column)被where子句引用时,优化器才会选择使用该索引. 3.20 用UNION-ALL 替换UNION ( 如果有可能的话) 当SQL语句需要UNION两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 然后在输出最终结果前进行排序. 如果用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. UNION 将对结果集合排序,这个操作会使用到SORT\_AREA\_SIZE这块内存 union:如果查询出来的结果中有重复记录,那么就去重 ,英文称之为"distinct" union all:就显示所有的符合条件的记录,重复也保留 3.21 ORDER BY 子句只在两种严格的条件下使用索引. ORDER BY中所有的列必须包含在相同的索引中并保持在索引中的排列顺序. ORDER BY中所有的列必须定义为非空. 3.22 避免改变索引列的类型. 当比较不同数据类型的数据时,自动对列进行简单的类型转换. 假设 EMPNO是一个数值类型的索引列. SELECT … FROM EMP WHERE EMPNO = ‘123’ 实际上,经过ORACLE类型转换, 语句转化为: SELECT … FROM EMP WHERE EMPNO = TO\_NUMBER(‘123’) 幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变. 现在,假设EMP\_TYPE是一个字符类型的索引列. SELECT … FROM EMP WHERE EMP\_TYPE = 123 这个语句被ORACLE转换为: SELECT … FROM EMP WHERE TO\_NUMBER(EMP\_TYPE)=123 因为内部发生的类型转换, 这个索引将不会被用到!为了避免ORACLE对你的SQL进行隐式的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比较时, ORACLE会优先转换字符类型到数字类型. 3.23 需要当心的WHERE子句 某些SELECT 语句中的WHERE子句不使用索引. 这里有一些例子. 在下面的例子里, ‘!=’ 将不使用索引. 记住, 索引只能告诉你什么存在于表中, 而不能告诉你什么不存在于表中. ‘+’是数学函数. 就象其他数学函数那样, 停用了索引 3.24 避免使用耗费资源的操作 带有DISTINCT,UNION,MINUS,INTERSECT,ORDER BY的SQL语句会启动SQL引擎 执行耗费资源的排序(SORT)功能. DISTINCT需要一次排序操作, 而其他的至少需要执行两次排序. 文章版权声明:注明蒲公英云原创文章,转载或复制请以超链接形式并注明出处。
相关 SQL性能优化 你在项目中碰到过什么问题 你是怎么解决的 我的个人回答:之前在做货品管理项目的时候,涉及到进销存单据的查询,会遇到查询很慢,甚至查询失败的情况,我一般都会查阅自己写的SQ 爱被打了一巴掌/ 2021年09月23日 03:38/ 0 赞/ 507 阅读
相关 sql性能优化、查询提速总结 sql性能优化、查询提速总结 这次sql性能优化,不讨论缓存服务器如redis等来增强,仅从表字段设置和业务操作角度考虑。 场景1: 表数据量大,比如几百上千万的流 谁借莪1个温暖的怀抱¢/ 2021年09月26日 19:18/ 0 赞/ 239 阅读
相关 MYSQL的SQL性能优化总结 转载至 [https://mp.weixin.qq.com/s/PbtikNJlGmsR2iLSIA4aMw][https_mp.weixin.qq.com_s_PbtikNJ Love The Way You Lie/ 2022年03月17日 23:30/ 0 赞/ 205 阅读
相关 SQL -优化部分总结+Mysql5.6性能优化 1。你必须选择记录条数最少的表作为基础表. (from 是从前往后检索的,所以要最少记录的表放在最前面) 2。采用自下而上的顺序解析WHERE子句,根据这个原理,表之间 偏执的太偏执、/ 2022年04月08日 18:55/ 0 赞/ 173 阅读
相关 sql性能优化总结 最近在帮一同学做数据库优化,查了一下资料,觉得很不错。 一. 目的 数据库参数进行优化所获得的性能提升全部加起来只占数据库应用系统性能提升的40%左右, 我不是女神ヾ/ 2022年04月17日 12:22/ 0 赞/ 213 阅读
相关 oracle sql 语句性能优化总结 Sql 优化: 当Oracle数据库拿到SQL语句时,其会根据查询优化器分析该语句,并根据分析结果生成查询执行计划。 也就是说,数据库是执行的查询计划,而不是Sql语句。 今天药忘吃喽~/ 2022年05月21日 14:38/ 0 赞/ 212 阅读
相关 数据库SQL Server性能优化之SQL语句总结 1、不要使用select \ 在select中指定所需要的列,将带来的好处: (1)减少内存耗费和网络的带宽 (2)更安全 (3)给查询优化器机会从索引读取所有需 向右看齐/ 2022年05月31日 20:30/ 0 赞/ 137 阅读
相关 性能优化和SQL优化 一、性能调优手段 1、配置参数调优 2、应用算法优化 3、GC内存调优 二、集群调优核心: 以数据位中心,均衡并发,高效计算 三、调优工具 Web UI、nMon 旧城等待,/ 2022年06月03日 09:36/ 0 赞/ 212 阅读
相关 Oracle SQL性能优化 (1) 选择最有效率的表名顺序(只在基于规则的优化器中有效): ORACLE的解析器按照从右到左的顺序处理FROM子句中的表名,FROM子句中写在最后的表(基础表 谁践踏了优雅/ 2022年08月03日 21:36/ 0 赞/ 76 阅读
相关 Oracle SQL性能优化 [Oracle SQL性能优化][Oracle SQL] (1) 选择最有效率的表名顺序(只在基于规则的优化器中有效): ORACLE的解析器按照从右到左的 雨点打透心脏的1/2处/ 2022年08月13日 08:43/ 0 赞/ 80 阅读
还没有评论,来说两句吧...