您当前的位置:首页 > 电脑百科 > 数据库 > 百科

十种数据库缓存相关的技术和机制

时间:2023-09-12 12:28:48  来源:今日头条  作者:奔跑的三角龙

数据库的缓存 -- 通过将数据库中的数据或结果集保存在内存或其他快速访问的介质中,能够加快查询响应,减少对磁盘或远程服务器的访问,降低资源消耗。

根据缓存的位置、内容、粒度、更新方式等不同,数据库缓存技术有多种类型和策略。常用的以下10种:

1、Buffer Pool:

数据页缓存 -- 将频繁访问的数据页缓存在内存中的技术,可以提高查询性能和减少磁盘I/O。数据页是数据库中存储数据的最小单位,通常为4KB或8KB。当查询需要访问某个数据页时,数据库会先检查该数据页是否已经在Buffer Pool中,如果是,则直接从内存中读取,如果不是,则从磁盘中读取并放入Buffer Pool中。Buffer Pool的大小可以根据系统资源和数据库负载进行调整。

2、查询缓存( Query cache ):

缓存经常重复的查询结果,避免重复执行SQL,可以节省CPU资源和网络带宽。当查询缓存开启时,数据库会将每个查询的SQL语句和结果集保存在内存中,当收到相同的SQL语句时,数据库会直接返回缓存的结果集,而不需要再次执行SQL。查询缓存的有效性依赖于表的更新频率,如果表经常被修改,则查询缓存会失效并需要重新生成。

3、预读 ( Pre-fetching ):

根据数据库的访问模式,预先缓存可能使用的数据,是一种提高查询性能和预防磁盘I/O瓶颈的技术。预读有两种类型:顺序预读随机预读。顺序预读是指当数据库检测到连续访问相邻数据页时,会提前从磁盘中读取后续的数据页并放入Buffer Pool中,以满足后续的查询需求。随机预读是指当数据库检测到频繁访问某些索引页时,会提前从磁盘中读取相关的数据页并放入Buffer Pool中,以加速索引查找。

4、异步I/O ( Asynchronous I/O ):

允许多个查询并发访问缓存,是提高数据库吞吐量和响应时间的技术。当数据库需要从磁盘中读取或写入数据时,不阻塞当前的查询进程,而是将I/O请求交给系统处理,并继续执行其他查询或操作。这样避免查询等待I/O完成而浪费CPU资源,并可以充分利用系统的I/O调度算法和硬件特性。

5、连接池 ( Connection Pool ):

复用已存在连接的技术。避免连接反复创建、销毁,减少连接开销,提高连接效率。由数据库服务器维护一组已经建立好的连接,并将其保存在内存中。当客户端请示连接数据库时,数据库服务器从连接池中分配一个空闲的连接给客户端,并在客户端断开连接后将连接回收到连接池中。避免了每次都重新建立和销毁连接所带来的时间和资源消耗,并且可以控制并发连接数量。

6、照合缓存 ( Metadata Cache ):

为了加速表扫描和索引查找,缓存经常访问表的元数据信息的一种缓存技术。照合缓存是将每个表的结构、列、索引、约束等信息保存在内存中,并在收到对该表的查询时直接从内存中获取这些信息,而不需要再次从系统表中读取。这样可以减少对系统表的访问次数,快速确定查询计划。

7、Write Ahead Log:

事务提交前先写入日志,可以保证事务的持久性和原子性。Write Ahead Log是当数据库执行一个事务时,并不是立即将事务对数据的修改写入磁盘,而是先将事务的操作记录写入日志文件中,在事务提交时将日志文件刷新到磁盘。这样可以避免频繁的数据写入操作,并且可以在数据库崩溃时根据日志文件恢复数据的一致性。

8、事务日志( Transaction Log ):

记录事务执行情况,用于数据库恢复。事务日志是数据库服务器将每个事务的开始、结束、提交、回滚等信息记录在日志文件中,并在数据库崩溃时根据这些信息恢复事务的状态。可以保证事务的完整性和隔离性,避免数据丢失或脏读。

9、复制日志( Replication Log ):

主从复制时的数据同步日志。复制日志是当数据库服务器作为主服务器时,将自己对数据的修改记录在日志文件中,并将日志文件发送给从服务器,从服务器则根据日志文件更新自己的数据。这样可以实现主从之间的数据一致性,并且可以在主服务器故障时切换到从服务器继续提供服务。

10、物化视图 ( Materialized View ):

将查询结果缓存,是一种避免重复计算的技术。物化视图是数据库服务器将某个复杂查询的结果集保存在一个表中,并定期更新这个表。当收到相同或类似的查询时,数据库服务器会直接从物化视图中返回结果,而不需执行复杂查询。



Tags:数据库缓存   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
数据库的缓存 -- 通过将数据库中的数据或结果集保存在内存或其他快速访问的介质中,能够加快查询响应,减少对磁盘或远程服务器的访问,降低资源消耗。根据缓存的位置、内容、粒度...【详细内容】
2023-09-12  Tags: 数据库缓存  点击:(0)  评论:(0)  加入收藏
看到好些人在写更新缓存数据代码时,先删除缓存,然后再更新数据库,而后续的操作会把数据再装载的缓存中。然而,这个是逻辑是错误的。试想,两个并发操作,一个是更新操作,另一个是查询...【详细内容】
2019-06-06  Tags: 数据库缓存  点击:(890)  评论:(0)  加入收藏
▌简易百科推荐
数据库的缓存 -- 通过将数据库中的数据或结果集保存在内存或其他快速访问的介质中,能够加快查询响应,减少对磁盘或远程服务器的访问,降低资源消耗。根据缓存的位置、内容、粒度...【详细内容】
2023-09-12  奔跑的三角龙  今日头条  Tags:数据库缓存   点击:(0)  评论:(0)  加入收藏
通过本文,我们将了解数据库如何扩展和不扩展。我们将研究传统SQL数据库存在的一些问题以及NoSQL数据库的引入如何解决这些问题。关于基本SQL的快速回顾SQL(Structured Query L...【详细内容】
2023-09-11  小技术君  微信公众号  Tags:SQL   点击:(4)  评论:(0)  加入收藏
我与关系数据库的关系可以追溯到 90 年代末。 这是我接触计算机和编程的第一步,成为我作为软件工程师的正规教育和学习的重要组成部分,并一直伴随着我的职业生涯。 我几乎爬遍...【详细内容】
2023-09-05  启辰8  今日头条  Tags:关系数据库   点击:(18)  评论:(0)  加入收藏
非关系型数据库(NoSQL)在过去几年中变得越来越受欢迎。传统的关系型数据库(RDBMS)在许多应用场景下存在一些限制,而非关系型数据库提供了一种新的数据存储和查询方式,具有许多优点...【详细内容】
2023-09-05  张燕妮    Tags:非关系型数据库   点击:(17)  评论:(0)  加入收藏
【CSDN 编者按】这篇文章分享了作者作为一位全栈开发者,在三周内将一个 3TB 的 PostgreSQL 数据库从 AWS 迁移到 Azure DevOps 的过程和经验,以及遇到的挑战和解决方案。原文...【详细内容】
2023-09-04    CSDN  Tags:PostgreSQL   点击:(24)  评论:(0)  加入收藏
随着现代应用程序对数据存储和处理需求的不断增加,开发人员需要寻找更具创新性和灵活性的数据库架构来满足这些需求。在这样的背景下,Java与MongoDB的结合为开发人员提供了一...【详细内容】
2023-09-04  编程技术汇  今日头条  Tags:数据库   点击:(14)  评论:(0)  加入收藏
一、前言当我们在企业开发时,数据库连接池是一个至关重要的组成部分。一个优秀的数据库连接池可以显著提高应用程序的性能和可伸缩性。在Java生态系统中,有很多连接池:Druid、H...【详细内容】
2023-09-01  小王博客基地  微信公众号  Tags:SpringBoot   点击:(23)  评论:(0)  加入收藏
我是从Oracle 5开始使用Oracle的,不过Oracle 5、6的时代,我只是帮用户安装Oracle而已,真正的开始关注数据库的内部,尝试调优数据库和解决数据库的故障是从Oracle 7.1开始的。因...【详细内容】
2023-09-01  白鳝的洞穴  微信公众号  Tags:数据库   点击:(29)  评论:(0)  加入收藏
MongoDB 是一种可伸缩的数据库,支持数据分片和负载均衡,以实现高性能和高可用性。下面将详细介绍 MongoDB 的数据分片策略和负载均衡机制,并介绍如何构建可伸缩的数据库。一、...【详细内容】
2023-09-01  编程技术汇  今日头条  Tags:MongoDB   点击:(29)  评论:(0)  加入收藏
Pulsar-SQL 是一个非常有用的功能,只是我们使用过程中确实发现了一些问题,大部分都已经修复了;希望对后续使用该功能的朋友有所帮助。背景为了让业务团队可以更好的跟踪自己消...【详细内容】
2023-08-31  crossoverJie  今日头条  Tags:SQL   点击:(29)  评论:(0)  加入收藏
站内最新
站内热门
站内头条