您当前的位置:首页 > 电脑百科 > 数据库 > 百科

程序员该如何进行 SQL 数据库的优化?

时间:2020-01-02 10:47:22  来源:  作者:
程序员该如何进行 SQL 数据库的优化?

作者 | 单一色调

责编 | Elle

出品 | CSDN 博客

之前的文章是从实例的角度进行数据库优化,通过配置一些参数让数据库性能达到最优。但是一些“不好”的SQL也会导致数据库查询变慢,影响业务流程。本文从SQL角度进行数据库优化,提升SQL运行效率。

 

1.判断问题SQL

判断SQL是否有问题时可以通过两个表象进行判断:

  • 系统级别表象

    • CPU消耗严重

    • IO等待严重

    • 页面响应时间过长

    • 应用的日志出现超时等错误

可以使用sar命令,top命令查看当前系统状态。

也可以通过Prometheus、Grafana等监控工具观察系统状态。(感兴趣的可以翻看我之前的文章)

程序员该如何进行 SQL 数据库的优化?
  • SQL语句表象

    • 冗长

    • 执行时间过长

    • 从全表扫描获取数据

    • 执行计划中的rows、cost很大

冗长的SQL都好理解,一段SQL太长阅读性肯定会差,而且出现问题的频率肯定会更高。更进一步判断SQL问题就得从执行计划入手,如下所示:

程序员该如何进行 SQL 数据库的优化?

执行计划告诉我们本次查询走了全表扫描Type=ALL,rows很大(9950400)基本可以判断这是一段"有味道"的SQL。

 

2.获取问题SQL

不同数据库有不同的获取方法,以下为目前主流数据库的慢查询SQL获取工具

  • MySQL

    • 慢查询日志

    • 测试工具loadrunner

    • Percona公司的ptquery等工具

  • Oracle

    • AWR报告

    • 测试工具loadrunner等

    • 相关内部视图如v$

    • GRID CONTROL监控工具

  • 达梦数据库

    • AWR报告

    • 测试工具loadrunner等

    • 达梦性能监控工具(dem)

    • 相关内部视图如v$

3.SQL编写技巧

SQL编写有以下几个通用的技巧:

• 合理使用索引

索引少了查询慢;索引多了占用空间大,执行增删改语句的时候需要动态维护索引,影响性能选择率高(重复值少)且被where频繁引用需要建立B树索引;

一般join列需要建立索引;复杂文档类型查询采用全文索引效率更好;索引的建立要在查询和DML性能之间取得平衡;复合索引创建时要注意基于非前导列查询的情况

• 使用UNION ALL替代UNION

UNION ALL的执行效率比UNION高,UNION执行时需要排重;UNION需要对数据进行排序

• 避免select * 写法

执行SQL时优化器需要将 * 转成具体的列;每次查询都要回表,不能走覆盖索引。

• JOIN字段建议建立索引

一般JOIN字段都提前加上索引

• 避免复杂SQL语句

提升可阅读性;避免慢查询的概率;可以转换成多个短查询,用业务端处理

• 避免where 1=1写法

• 避免order by rand类似写法

RAND导致数据列被多次扫描

4.SQL优化

 

执行计划

完成SQL优化一定要先读执行计划,执行计划会告诉你哪些地方效率低,哪里可以需要优化。我们以MYSQL为例,看看执行计划是什么。(每个数据库的执行计划都不一样,需要自行了解)

explain sql

程序员该如何进行 SQL 数据库的优化?

接下来我们用一段实际优化案例来说明SQL优化的过程及优化技巧。

优化案例

  • 表结构

CREATE TABLE `a`
(
`id` int(11) NOT AUTO_INCREMENT,
`seller_id` bigint(20) DEFAULT ,
`seller_name` varchar(100) CHARACTER SET utf8 COLLATE utf8_bin DEFAULT ,
`gmt_create` varchar(30) DEFAULT ,
PRIMARY KEY (`id`)
);
CREATE TABLE `b`
(
`id` int(11) NOT AUTO_INCREMENT,
`seller_name` varchar(100) DEFAULT ,
`user_id` varchar(50) DEFAULT ,
`user_name` varchar(100) DEFAULT ,
`sales` bigint(20) DEFAULT ,
`gmt_create` varchar(30) DEFAULT ,
PRIMARY KEY (`id`)
);
CREATE TABLE `c`
(
`id` int(11) NOT AUTO_INCREMENT,
`user_id` varchar(50) DEFAULT ,
`order_id` varchar(100) DEFAULT ,
`state` bigint(20) DEFAULT ,
`gmt_create` varchar(30) DEFAULT ,
PRIMARY KEY (`id`)
)
  • 三张表关联,查询当前用户在当前时间前后10个小时的订单情况,并根据订单创建时间升序排列,具体SQL如下


 
select a.seller_id,
a.seller_name,
b.user_name,
c.state
from a,
b,
c
where a.seller_name = b.seller_name
and b.user_id = c.user_id
and c.user_id = 17
and a.gmt_create
BETWEEN DATE_ADD(NOW, INTERVAL – 600 MINUTE)
AND DATE_ADD(NOW, INTERVAL 600 MINUTE)
order by a.gmt_create;

查看数据量

程序员该如何进行 SQL 数据库的优化?

原执行时间

程序员该如何进行 SQL 数据库的优化?

原执行计划

程序员该如何进行 SQL 数据库的优化?

初步优化思路

  1. SQL中 where条件字段类型要跟表结构一致,表中user_id 为varchar(50)类型,实际SQL用的int类型,存在隐式转换,也未添加索引。将b和c表user_id 字段改成int类型;

  2. 因存在b表和c表关联,将b和c表user_id创建索引;

  3. 因存在a表和b表关联,将a和b表seller_name字段创建索引;

  4. 利用复合索引消除临时表和排序。

初步优化SQL

alter table b modify `user_id` int(10) DEFAULT ;
alter table c modify `user_id` int(10) DEFAULT ;
alter table c add index `idx_user_id`(`user_id`);
alter table b add index `idx_user_id_sell_name`(`user_id`,`seller_name`);
alter table a add index `idx_sellname_gmt_sellid`(`gmt_create`,`seller_name`,`seller_id`);

 

查看优化后执行时间


程序员该如何进行 SQL 数据库的优化?

查看优化后执行计划

程序员该如何进行 SQL 数据库的优化?

查看warnings信息

程序员该如何进行 SQL 数据库的优化?

继续优化

alter table a modify "gmt_create" datetime DEFAULT ;

查看执行时间

程序员该如何进行 SQL 数据库的优化?

查看执行计划

程序员该如何进行 SQL 数据库的优化?

总结

  1. 查看执行计划 explain;

  2. 如果有告警信息,查看告警信息 show warnings;

  3. 查看SQL涉及的表结构和索引信息;

  4. 根据执行计划,思考可能的优化点;

  5. 按照可能的优化点执行表结构变更、增加索引、SQL改写等操作;

  6. 查看优化后的执行时间和执行计划;

  7. 如果优化效果不明显,重复第四步操作。

原文:https://blog.csdn.net/jianzhang11/article/details/102867120



Tags:SQL 优化   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
单表优化除非单表数据未来会一直不断上涨,否则不要一开始就考虑拆分,拆分会带来逻辑、部署、运维的各种复杂度,一般以整型值为主的表在千万级以下,字符串为主的表在五百万以下是...【详细内容】
2020-04-17  Tags: SQL 优化  点击:(73)  评论:(0)  加入收藏
当MySQL单表记录数过大时,增加、删除、修改和查询的性能将急剧下降,您可以参考以下步骤进行优化。单表优化 除非你预计未来你的单表数据会不断的持续上涨,否则不要一开始就考虑...【详细内容】
2020-04-14  Tags: SQL 优化  点击:(70)  评论:(0)  加入收藏
谁在消耗cpu?用户+系统+IO等待+软硬中断+空闲 祸首是谁?用户用户空间CPU消耗,各种逻辑运算正在进行大量tps函数/排序/类型转化/逻辑IO访问…用户空间消耗大量cpu,产生...【详细内容】
2020-03-09  Tags: SQL 优化  点击:(144)  评论:(0)  加入收藏
千万级大表如何优化,这是一个很有技术含量的问题,通常我们的直觉思维都会跳转到拆分或者数据分区,在此我想做一些补充和梳理,想和大家做一些这方面的经验总结,也欢迎大家提出建议...【详细内容】
2020-02-11  Tags: SQL 优化  点击:(60)  评论:(0)  加入收藏
之前的文章是从实例的角度进行数据库优化,通过配置一些参数让数据库性能达到最优。但是一些“不好”的SQL也会导致数据库查询变慢,影响业务流程。本文从SQL角度进行数据库优化,提升SQL运行效率。...【详细内容】
2020-01-02  Tags: SQL 优化  点击:(107)  评论:(0)  加入收藏
一、开门见山,问题所在sql语句性能达不到你的要求,执行效率让你忍无可忍,一般会时下面几种情况。 网速不给力,不稳定。 服务器内存不够,或者SQL 被分配的内存不够。 sql语句设计...【详细内容】
2019-12-19  Tags: SQL 优化  点击:(95)  评论:(0)  加入收藏
概述优化SQL,是DBA常见的工作之一。如何高效、快速地优化一条语句,是每个DBA经常要面对的一个问题。对于一名DBA来说,掌握一门语言配合自己的工作是非常必要的。相对于shell的...【详细内容】
2019-10-09  Tags: SQL 优化  点击:(607)  评论:(0)  加入收藏
mysql5.6之前处理客户端连接的方式会触发mysql 新建一个线程来处理新的连接,新建的线程会处理该连接所发送的所有 SQL 请求,即 one-thread-per-connection 的方式,其创建连接的堆栈为:...【详细内容】
2019-09-06  Tags: SQL 优化  点击:(160)  评论:(0)  加入收藏
1 前言在进行 MySQL 的优化之前必须要了解的就是 MySQL 的查询过程,很多的查询优化工作实际上就是遵循一些原则让 MySQL 的优化器能够按照预想的合理方式运行而已。 2 优化...【详细内容】
2019-09-05  Tags: SQL 优化  点击:(151)  评论:(0)  加入收藏
MySQL 对于很多 Linux 从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行 MySQL 的优化之前必须要了解的就是 MySQL 的查询过程,很多的查询优化工作实际上就是遵循一些...【详细内容】
2019-09-03  Tags: SQL 优化  点击:(157)  评论:(0)  加入收藏
▌简易百科推荐
1增1.1【插入单行】insert [into] <表名> (列名) values (列值)例:insert into Strdents (姓名,性别,出生日期) values (&#39;开心朋朋&#39;,&#39;男&#39;,&#39;1980/6/15&#3...【详细内容】
2021-12-27  快乐火车9d3    Tags:SQL   点击:(2)  评论:(0)  加入收藏
最近发现还有不少做开发的小伙伴,在写存储过程的时候,在参考已有的不同的写法时,往往很迷茫, 不知道各种写法孰优孰劣,该选用哪种写法,以及各种写法的优缺点,本文以一个简单的查询...【详细内容】
2021-12-23  linux上的码农    Tags:sql   点击:(9)  评论:(0)  加入收藏
《开源精选》是我们分享Github、Gitee等开源社区中优质项目的栏目,包括技术、学习、实用与各种有趣的内容。本期推荐的HasorDB 是一个全功能数据库访问工具,提供对象映射、丰...【详细内容】
2021-12-22  GitHub精选    Tags:HasorDB   点击:(5)  评论:(0)  加入收藏
作者丨Rafal Grzegorczyk译者丨陈骏策划丨孙淑娟【51CTO.com原创稿件】您是否还在手动对数据库执行各种脚本?您是否还在浪费时间去验证数据库脚本的正确性?您是否还需要将...【详细内容】
2021-12-22    51CTO  Tags:Liquibase   点击:(4)  评论:(0)  加入收藏
场景描述:由于生产环境的表比较复杂,字段很多。这里我们做下简化,只为说明今天要聊的问题。有两张表 tab1,tab2: tab1 数据如下: tab2 数据如下: 然后给你看下,我用来统计 name=&#3...【详细内容】
2021-12-20  Bald    Tags:SQL   点击:(7)  评论:(0)  加入收藏
前言知识无底,学海无涯,知识点虽然简单,但是比较多,所以将MySQL的基础写出来,方便自己以后查找,还有就是分享给大家。一、SQL简述1.SQL的概述Structure Query Language(结构化查...【详细内容】
2021-12-16  谣言止于独立思考    Tags:SQL基础   点击:(13)  评论:(0)  加入收藏
前言作为一名测试工程师,工作中在对测试结果进行数据比对的时候,或多或少要和数据库打交道的,要和数据库打交道,那么一些常用的 SQL 查询语法必须要掌握。最近有部分做测试小伙...【详细内容】
2021-12-14  柠檬班软件测试    Tags:SQL   点击:(15)  评论:(0)  加入收藏
话说C是面向内存的编程语言。数据要能存得进去,取得出来,且要考虑效率。不管是顺序存储还是链式存储,其寻址方式总是很重要。顺序存储是连续存储。同质结构的数组通过其索引表...【详细内容】
2021-12-08  小智雅汇    Tags:数据存储   点击:(18)  评论:(0)  加入收藏
概述DBConvert Studio 是一款强大的跨数据库迁移和同步软件,可在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的 DBConvert 和 DBSync 核心与改进的现...【详细内容】
2021-11-17  雪竹聊运维    Tags:数据库   点击:(26)  评论:(0)  加入收藏
一、前言 大家好,我是小诚,《从0到1-全面深刻理解MySQL系列》已经来到第四章,这一章节的主要从一条SQL执行的开始,由浅入深的解析SQL语句由客户端到服务器的完整执行流程,最...【详细内容】
2021-11-09  woaker    Tags:SQL   点击:(35)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条