您当前的位置:首页 > 电脑百科 > 数据库 > 百科

加快SQL查询的九种优秀实践

时间:2024-01-04 15:20:07  来源:51CTO  作者:

译者 | 陈峻

审校 | 重楼

如您所知,SQL多年来一直是开发和查询数据库的主要语言。在编程实践中,人们逐渐积累了各种在使用过程中的小技巧。下面,让我们来看看有关如何编写出更高效的SQL查询的9种优秀实践。

加快SQL查询的九种优秀实践

1.只检索需要的列

对于那些所谓的数据库开发老司机而言,他们会有一个常见的SQL习惯:在编写查询代码时,频繁地使用SELECT *,一次性列出所有可能需要的数据列。显然,如果查询一个存储了一百多列的数据表的所有列,您可以想象会发生什么?毕竟在真实的系统应用环境中,这样的数据表屡见不鲜,而且它们并非总是可以通过重新设计和优化,来合理化其结构。那么,您是否考虑过采取简单点的方法呢?其实,我们可以只选择列的子集,以避免在查询过程中占用不必要的资源,并提高执行的效率。

当然,在进行查询的原型设计时,使用SELECT *是没有太大问题的,但是一旦进入生产阶段,具体的查询就应该只请求那些实际将会使用到的数据列。

2.使用CASE代替UPDATE进行有条件的列更新

在编程过程中,开发人员也会经常使用UPDATE ...WHERE,来根据数据表中的某一列的值,设置另一列的值。例如,UPDATE Users SET Users.Status="遗留" WHERE Users.ID<1000。不可否认,这种方法既简单又直观,但是它有时也会增加不必要的步骤。例如,如果您需要先向某个表中插入数据,然后使用UPDATE来更改数据,那么这便是两个独立的事务。不过,当你有数百万行数据时,此类“徒增”的额外事务就会产生大量不必要的操作。

对于一些大规模操作而言,更好的解决方案是:在查询中使用内联CASE语句,在插入操作过程中设置列的值。如此,我们便可以一次性地同时处理初始插入和修改数据了。

3.尽量减少大表查询

就系统开销而言,对于任何体量数据表的查询,都不是“免费”的。而对于那些拥有数亿、甚至数十亿行的数据表的查询,更是如此。为此,我们需要尽可能地将那些对于大体量数据表的查询,合并为最少的离散操作。例如,如果我们想对一个数据表先按照某一列进行查询,然后再按照另一列予以查询。那么我们便可以首先将其合并为一个查询,然后确保你后续要查询的列拥有了覆盖索引(Covering Index)。

如果您发现自己必须从一张大的数据表中获取相同的数据子集,并需要对其运行较小的查询,那么您可以将其子集持久化到其他地方,并对其进行查询,从而为当前和后续其他操作提速。这也将引出下一项优秀实践。

4.为数据设置预分级(Pre-stage)

假设您或组织中的其他人经常需要执行报表或存储过程。而这些报表或存储过程又需要通过连接几张大的数据表,来汇总大量的数据。那么,您与其每次都重新运行连接,不如将其预分级到专门用于此目的的数据表中。据此,报表或程序便可以针对该表一次性地共同完成其操作,从而为自己(和他人)节省大量的工作。此外,如果您有足够的资源,而且数据库也能够提供支持的话,也可以使用内存表,来进一步实现加速。

5.分批进行删除和更新

试想,您需要在一张数十亿行级的数据表中清除数百万行。虽然最简单的方法莫过于在事务中运行DELETE。但这样一来,整张表就会在此过程中被锁定,直至事务完成。

而复杂一些的方法是分批执行删除(或更新)操作。此类操作可以与其他事务交错进行。由于每个事务都会变得更小,更易于管理,因此其他事务也可以在该操作前后或操作期间“见缝插针”地执行。

在实际应用中,此举将成为任务队列的良好用例。它不但可以跟踪跨会话操作的进度,而且允许其以低优先级的状态,在后台被操作执行。

6.使用临时表提高指针性能

有过开发经验的程序员都知道:指针的使用会导致应用的速度变慢,甚至会阻碍到其他操作。与此同时,那些依赖指针的操作,几乎都可以用其他方法来完成。因此,在大多数情况下,我们应该避免使用指针。

话说回来,如果您由于某种原因不得不使用指针的话,临时表则可以减少由指针带来的性能问题。例如,如果您需要遍历某个数据表,并根据计算结果更改某一列的话,则可以将待更新的候选数据放入临时表中,用指针来遍历该临时表,然后在一次性的操作中,应用所有的更新。当然,此方式还可以将指针的某个处理分成多个批次。

7.使用表值(table-valued)函数而非标量(scalar)函数

由于标量函数可以将计算封装到类似存储过程的SQL代码段中,因此开发人员的通常做法是:将标量函数的结果作为SELECT查询中的某一列去返回。不过,您可以使用表值函数来进行代替,并在查询中使用CROSS AppLY来获得更好的性能。

8.使用分区以避免大量数据移动

SQL Server Enterprise提供了一种“分区(partitioning)”功能,可以将数据库表分割成多个分区。也就是说,如果你有一张表需要经常归档到另一个表中,那么就可以避免使用INSERT/DELETE来移动数据,而直接使用SWITCH来代替。

我们可以假想一个场景,如果有一张表需要每天都被清空至一张归档表中。那么,我们就可以使用SWITCH,简单地将日常表中的页面,分配到该归档表中,从而执行清空和复制操作。与手动复制和删除相比,该切换过程所需的时间要少得多。Cathrine Wilhelmsen提供了如何以这种方式使用分区的精彩教程,您可以通过链接--https://www.cathrinewilhelmsen.NET/table-partitioning-in-sql-server-partition-switching/,进行参考。

9.使用存储过程提高性能,使用ORM带来便利

ORMs,即:对象关系映射器(object-relational mappers)是一套能以编程的方式生成SQL代码的软件工具包。它们允许您使用应用程序的编程语言及其隐喻(Metaphors),来开发和维护查询。

由于ORM可能产生低效、有时甚至无法被代码优化,而备受诟病。同时,它们也会降低开发人员学习SQL、以及理解查询内容的积极性。许多数据库开发人员原则上并不喜欢ORM,他们在需要通过手动编写查询,以获得最佳性能时,往往无所适从。

相反,对于经常被调用、需要良好性能、不常被更改、以及需要数据库分析工具对性能进行检测的查询而言,使用存储过程是最为合理的。与临时查询相比,大多数数据库更容易获得存储过程的汇总统计信息。数据库的查询规划器也更容易对存储过程进行优化。

不过,将更多的数据库逻辑移入存储过程的缺点是:逻辑与数据库的耦合更加紧密。存储过程可能会从性能优势变为巨大的技术债(Technical Debt)。如果您后续准备迁移到另一种数据库技术的话,那么更改ORM的目标会比重写所有存储过程要容易得多。毕竟应用程序的数据库部分的编写方式,与应用逻辑的耦合度不高。相反,ORM倒是能够使得编写和维护数据库代码更加容易。此外,我们可以检查由ORM生成的代码,以进行优化,而且查询缓存也能够允许我们重用那些最常被生成的查询。

总之,如果您觉得应用程序端的可维护性更重要的话,那就请使用ORM;如果您需要在数据库方面具有更好的性能的话,则请使用存储过程。

译者介绍

陈峻(Julian Chen),51CTO社区编辑,具有十多年的IT项目实施经验,善于对内外部资源与风险实施管控,专注传播网络与信息安全知识与经验。

原文标题:SQL unleashed: 9 ways to speed up your SQL queries,作者:Serdar Yegulalp



Tags:SQL查询   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
加快SQL查询的九种优秀实践
译者 | 陈峻审校 | 重楼如您所知,SQL多年来一直是开发和查询数据库的主要语言。在编程实践中,人们逐渐积累了各种在使用过程中的小技巧。下面,让我们来看看有关如何编写出更高...【详细内容】
2024-01-04  Search: SQL查询  点击:(100)  评论:(0)  加入收藏
实用性极强的MySQL查询优化策略
前言在程序上线运行一段时间后,一旦数据量上去了,或多或少会感觉到系统出现延迟、卡顿等现象,出现这种问题,就需要程序员或架构师进行系统调优工作了。其中,大量的实践经验表明,调...【详细内容】
2023-12-25  Search: SQL查询  点击:(88)  评论:(0)  加入收藏
Oracle数据库调优实战:优化SQL查询的黄金法则!
在数据库应用中,SQL查询是最常见且最频繁执行的操作之一。然而,当数据量庞大、查询复杂度高时,SQL查询性能可能变得低效。为了提高数据库的响应速度和吞吐量,我们需要进行SQL查...【详细内容】
2023-11-10  Search: SQL查询  点击:(317)  评论:(0)  加入收藏
如何使用GPT作为SQL查询引擎的自然语言
译者 | 李睿审校 | 重楼如今,得益于ChatGPT这种生成式人工智能技术,使得用简单的语句查询数据集变得非常简单。与大多数生成式人工智能一样,OpenAI公司开发的API的结果仍然不完...【详细内容】
2023-10-27  Search: SQL查询  点击:(349)  评论:(0)  加入收藏
MySQL查询语句揭秘:无限层次父子关系查询,轻松解锁数据维度!
在当今的数据驱动时代,对于处理具有层次结构的数据非常重要。例如,组织结构、分类层次、评论回复等都可以被看作是无限层次的父子关系。针对这类数据的查询通常需要一种特殊的...【详细内容】
2023-08-23  Search: SQL查询  点击:(276)  评论:(0)  加入收藏
使用Python内置模块加速SQL查询
假设你正在查阅一本书的页面,你想要更快地找到你正在寻找的信息。你会怎么做呢?那么你可能会查找术语索引,然后跳转到引用特定术语的页面。SQL中的索引与书籍中的索引工作原理...【详细内容】
2023-08-22  Search: SQL查询  点击:(251)  评论:(0)  加入收藏
教你进行MySQL查询操作
大家好,我是IT共享者,人称皮皮。今天给大家讲讲MySQL中的查询操作。前言我们在以前,大概学了一下如何通过命令创建数据库,创建表等基本操作。但是实际上啊,至少在我的实际工作...【详细内容】
2023-03-29  Search: SQL查询  点击:(178)  评论:(0)  加入收藏
600倍效率提升sql查询优化从几十秒到几十毫秒
背景运维反馈说线上一个接口越来越慢,大概二三十秒才有返回。查看接口代码,定位问题出在sql查询效率上。sql意图是将多个号码最新的数据返回给前端使用。单表数据量 530万左右...【详细内容】
2023-03-28  Search: SQL查询  点击:(172)  评论:(0)  加入收藏
MySQL查询慢别怪索引,没准是这些原因导致的
我熟练应用ctrl c和ctrl v 开发curd代码好多年了。 mysql查询为什么会慢,关于这个问题,在实际开发经常会遇到,而面试中,也是个高频题。 遇到这种问题,我们一般也会想到是因为索引...【详细内容】
2022-07-12  Search: SQL查询  点击:(348)  评论:(0)  加入收藏
MySQL查询是否安装&删除
1、查找以前是否装有mysql命令:rpm -qa|grep -i mysql 可以看到如下图的所示:说明之前安装了: MySQL-client-5.5.25a-1.rhel5 MySQL-server-5.5.25a-1.rhel52、停止mysql服务...【详细内容】
2022-03-10  Search: SQL查询  点击:(357)  评论:(0)  加入收藏
▌简易百科推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  京东云开发者    Tags:向量数据库   点击:(4)  评论:(0)  加入收藏
原来 SQL 函数是可以内联的!
介绍在某些情况下,SQL 函数(即指定LANGUAGE SQL)会将其函数体内联到调用它的查询中,而不是直接调用。这可以带来显著的性能提升,因为函数体可以暴露给调用查询的规划器,从而规划器...【详细内容】
2024-04-03  红石PG  微信公众号  Tags:SQL 函数   点击:(3)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28    51CTO  Tags:NoSQL   点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  dbaplus社群    Tags:数据库连接池   点击:(12)  评论:(0)  加入收藏
八个常见的数据可视化错误以及如何避免它们
在当今以数据驱动为主导的世界里,清晰且具有洞察力的数据可视化至关重要。然而,在创建数据可视化时很容易犯错误,这可能导致对数据的错误解读。本文将探讨一些常见的糟糕数据可...【详细内容】
2024-03-26  DeepHub IMBA  微信公众号  Tags:数据可视化   点击:(6)  评论:(0)  加入收藏
到底有没有必要分库分表,如何考量的
关于是否需要进行分库分表,可以根据以下考量因素来决定: 数据量和负载:如果数据量巨大且负载压力较大,单一库单一表可能无法满足性能需求,考虑分库分表。 数据增长:预估数据增长...【详细内容】
2024-03-20  码上遇见你  微信公众号  Tags:分库分表   点击:(13)  评论:(0)  加入收藏
在 SQL 中写了 in 和 not in,技术总监说要炒了我……
WHY?IN 和 NOT IN 是比较常用的关键字,为什么要尽量避免呢?1、效率低项目中遇到这么个情况:t1表 和 t2表 都是150w条数据,600M的样子,都不算大。但是这样一句查询 &darr;select *...【详细内容】
2024-03-18  dbaplus社群    Tags:SQL   点击:(5)  评论:(0)  加入收藏
应对慢SQL的致胜法宝:7大实例剖析+优化原则
大促备战,最大的隐患项之一就是慢SQL,对于服务平稳运行带来的破坏性最大,也是日常工作中经常带来整个应用抖动的最大隐患,在日常开发中如何避免出现慢SQL,出现了慢SQL应该按照什...【详细内容】
2024-03-14  京东云开发者    Tags:慢SQL   点击:(4)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12    InfoQ  Tags:数据库   点击:(24)  评论:(0)  加入收藏
SQL优化的七个方法,你会哪个?
一、插入数据优化 普通插入:在平时我们执行insert语句的时候,可能都是一条一条数据插入进去的,就像下面这样。INSERT INTO `department` VALUES(1, &#39;研发部(RD)&#39;, &#39...【详细内容】
2024-03-07  程序员恰恰  微信公众号  Tags:SQL优化   点击:(19)  评论:(0)  加入收藏
站内最新
站内热门
站内头条