您当前的位置:首页 > 电脑百科 > 程序开发 > 编程百科

一次性讲清楚「连接池获取连接慢」的所有原因

时间:2023-12-06 16:14:05  来源:微信公众号  作者:得物技术

一、前言

应用连接数据库基本上都是通过连接池去连接,比如常用的 HikariCP、Druid 等,在应用运行期间经常会出现获取连接很慢的场景,大多数同学都是一头雾水,不知道从哪下手。而且很多时候都是偶发场景,让人头疼不已,别着急,本文带你逐步剖析获取连接慢的所有可能的原因,以及对应的调优手段,让你成为连接池排障大师。

二、连接池监控

排查问题的前提是发现问题,所以首先需要有连接池的详细监控,下面我们以 HikariCP 为例,简单介绍几个常用的指标的含义。

一次性讲清楚「连接池获取连接慢」的所有原因

一次性讲清楚「连接池获取连接慢」的所有原因

一次性讲清楚「连接池获取连接慢」的所有原因

对应应用程序比较敏感的时间就是获取连接耗时,因为它是同步的会直接影响链路的RT,下面我们就来逐步分析造成这个获取连接耗时较高的所有可能性以及解决方案。

三、排查思路

连接池存在等待连接

获取连接耗时较高最直接的原因就是存在等待连接数,这种情况直接观测等待连接数的大盘即可

一次性讲清楚「连接池获取连接慢」的所有原因图片

那么又有哪几种情况会导致存在等待连接数呢?

  • 连接池容量过小

如果日常的活跃连接数/总连接比例持续很高,或者 QPS * AVG-RT(s) > 连接总数说明当前连接池的最大连接数已经不足以支撑当前的流量,如何解决?

适当增加连接池最大连接数:连接数也不是越大越好,一般是根据 CPU 核数决定,HikariCP 官方给出了一个公式可以做一下参考,最大连接数一般不要超过 50。

core_count 为core的数量 effective_spindle_count 为挂载的磁盘数量。
core_count 为core的数量 effective_spindle_count 为挂载的磁盘数量。
  • 应用扩容:如果连接数调大后,仍然无法解决,说明单机的连接数已经达到上限,需要对应用进行扩容,但是需要注意扩容节点的数量,单机连接数*节点数量不要超过数据库支持的最大连接数

有慢查询&长事务

  • 慢SQL

慢 SQL 相对来说比较好排查,数据库或者数据库中间件都有成熟的慢 SQL 采集工具。只需要分析一下指定时间段内是否有慢 SQL 即可。 如果SQL 优化空间比较低,可以把慢 SQL 和核心业务分 2 个数据源,防止慢 SQL 影响正常核心业务。

  • 长事务

长事务是很容易忽略的一种 case,可以通过观测连接使用时间指标和 SQL 耗时来分析,如果连接使用平均耗时远大于 SQL 平均耗时,那么说明有长事务。还可以根据 HikariCP 自带的连接泄露检测来分析,当连接被借出后长时间未归还(超过配置的阈值 leak-detection-threshold=30000)会打印借出时的堆栈,可以帮助我们快速定位。

一次性讲清楚「连接池获取连接慢」的所有原因图片

还可以通过 RDS 的 SQL 洞察来分析是否有长事务,如果使用 Spring+JDBC 管理事务的情况下,开启事务的命令是 SET autocommit=0,提交事务是 commit,这里根据数据库线程 ID 来逐个分析,提交事务的时间-开启事务的时间=事务持续时间。

一次性讲清楚「连接池获取连接慢」的所有原因

应用负载过高

由于 HikariCP、Druid 在从连接池借出连接时,会有一个同步探活的操作,比如直接 MySQL 的 PING 命令或执行 select 'X' 等,因为有网络 IO,所以这里会让当前线程进入阻塞状态让出 CPU 时间片。

一次性讲清楚「连接池获取连接慢」的所有原因图片

在 CPU 繁忙时,执行完网络 IO 后等待获取 CPU 时间片的时间较长,最终表现的结果就是获取连接时间拉长。这种 case 的分析手段比较简单,直接通过观测应用的 CPU 和 Load 指标即可。

应用STW

在获取连接方法开始到结束期间,如果应用发生了 STW,就会导致获取连接耗时升高,需要结合 JVM 监控 &GC 日志来分析,关于 GC 分析不是本文重点,这里简单列举几个重点说明一下(以 ZGC 举例)。

  • JVM 监控存在 Allocation Stall(垃圾回收阻塞,会暂停线程)或者暂停时间较长。

一次性讲清楚「连接池获取连接慢」的所有原因图片

一次性讲清楚「连接池获取连接慢」的所有原因图片

  • GC 日志相对于监控会更为准确一点,把日志文件直接丢到 https://gceasy.ycrash.cn/ 里面分析一下即可,会输出详细的报告,重点关注一下 STW 时间和分配阻塞。

一次性讲清楚「连接池获取连接慢」的所有原因图片

一次性讲清楚「连接池获取连接慢」的所有原因图片

网络阻塞

这一类问题比较难以排查,具有偶发性和难以观测的特点,网络阻塞也分好几种情况。

  • 网络抖动

这是最常见的一种情况,一般我们可以通过观测应用所在主机的 TCP 重传监控是否有尖刺,但这里要注意下,TCP 重传不代表一定是网络抖动,也可能是网络带宽打满或者数据库 &DAL 异常。

一次性讲清楚「连接池获取连接慢」的所有原因图片

除了监控还可以通过网络循环抓包来分析(主要磁盘容量不要保留太多文件),可以参考以下命令。

抓取 3306 端口的网络包,存储到 3306.pcap 文件中,-C 50 -W 10 代表一个文件最大 50M,最多保留 10 个 tcpdump -i eth0 port 3306 -w 3306.pcap -C 50 -W 10。

然后导入到 WireShark 工具中分析,重点关注 TCP Retransmission 即 TCP 重传。

一次性讲清楚「连接池获取连接慢」的所有原因图片

  • 网络阻塞

如机器带宽打满,具体表现也是 TCP 重传,这里可以观测机器的带宽监控和机器支持的最大带宽做对比,看看是否超过限制。

一次性讲清楚「连接池获取连接慢」的所有原因图片

数据库&数据库中间件异常

当数据库或者数据库中间件出现异常时,对于上游应用的表现大多数就是 SQL RT 增高、TCP 重传。如果怀疑是数据库或者数据库中间件出现异常,可以先确定自己的应用连的是哪个库,这里可以通过应用监控(上下游 -RDS)直观的看到应用连接的具体的库信息,然后再观测对应 RDS 和数据库中间件的监控进一步分析。

一次性讲清楚「连接池获取连接慢」的所有原因图片

  • 如果是数据库中间件域名,就可以看数据库中间件的监控大盘。

一次性讲清楚「连接池获取连接慢」的所有原因图片

如果数据库中间件本身没有异常,可以继续下钻到 RDS。

一次性讲清楚「连接池获取连接慢」的所有原因图片

  • 如果是 RM/RR 开头的,说明连的是 RDS,可以看阿里云的 RDS 监控,把下面的 Rdsid 替换一下即可。
https://rdsnext.console.aliyun.com/detAIl/{替换成rdsId}/performance?reginotallow=cn-hangzhou&DedicatedHostGroupId=

重点观测 CPU内存利用率 & IOPS 使用率,也可以框选指定时间段进行自动诊断。

一次性讲清楚「连接池获取连接慢」的所有原因图片

四、总结

本文列举了几乎所有可能导致连接池获取连接慢的 case,相信看完的读者以后再遇到此类问题时,再也不会一头雾水了。学会自助排查,不光可以提升自己的排障能力,同时也能减轻各位中间件 &DBA 小伙伴的客服压力。

参考文档:https://Github.com/brettwooldridge/HikariCP/wiki/About-Pool-Sizing



Tags:连接池   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  Search: 连接池  点击:(12)  评论:(0)  加入收藏
再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!
SpringBoot项目中,数据库连接池已经成为标配,然而,我曾经遇到过不少连接池异常导致业务错误的事故。很多经验丰富的工程师也可能不小心在这方面出现问题。在这篇文章中,我们将探...【详细内容】
2023-12-11  Search: 连接池  点击:(213)  评论:(0)  加入收藏
Java中连接池配置不合理,导致连接泄漏和数据库连接数超限问题
连接池是Java开发中常用的技术,可以有效地管理数据库连接,提高系统性能和稳定性。然而,如果连接池配置不合理,可能会导致连接泄漏和数据库连接数超限的问题。下面将详细介绍连接...【详细内容】
2023-12-07  Search: 连接池  点击:(146)  评论:(0)  加入收藏
一次性讲清楚「连接池获取连接慢」的所有原因
一、前言应用连接数据库基本上都是通过连接池去连接,比如常用的 HikariCP、Druid 等,在应用运行期间经常会出现获取连接很慢的场景,大多数同学都是一头雾水,不知道从哪下手。而...【详细内容】
2023-12-06  Search: 连接池  点击:(149)  评论:(0)  加入收藏
Spring Boot 如何整合高性能数据库连接池 HikariCP
当使用Spring Boot整合HikariCP时,您可以更加详细地配置和优化连接池以获得更好的性能。以下是更详细的步骤和示例代码:步骤1:创建Spring Boot项目您可以使用Spring Initializr...【详细内容】
2023-10-26  Search: 连接池  点击:(30)  评论:(0)  加入收藏
颠覆认知:数据库连接池到底应该设多大?
我在研究HikariCP(一个数据库连接池)时无意间在HikariCP的Github wiki上看到了一篇文章,这篇文章有力地消除了我一直以来的疑虑,看完之后感觉神清气爽,故在此做译文分享。数据库...【详细内容】
2023-09-22  Search: 连接池  点击:(313)  评论:(0)  加入收藏
使用连接池优化Spring Boot性能
1 连接池在Spring Boot应用程序中的作用在数据库驱动的应用程序中,与数据库建立连接是一项资源密集型的操作,会消耗大量的系统资源和时间。为了避免频繁地建立和断开连接,连接...【详细内容】
2023-07-22  Search: 连接池  点击:(124)  评论:(0)  加入收藏
从数据库连接池 testOnBorrow 看架构设计
本文从 Commons DBCP testOnBorrow 的作用机制着手,管中窥豹,从一点去分析数据库连接池获取的过程以及架构分层设计。以下内容会按照每层的作用,贯穿分析整个调用流程。1️⃣框架...【详细内容】
2023-06-21  Search: 连接池  点击:(258)  评论:(0)  加入收藏
MySQL连接离奇挂死,竟不是连接池的锅……
本次分享了一次关于 MySQL 连接挂死问题排查的心路历程,由于环境搭建的工作量巨大,而且该问题复现存在偶然性,整个分析过程还是有些坎坷的(其中也踩了坑)。一、背景近期由测试反...【详细内容】
2023-03-03  Search: 连接池  点击:(186)  评论:(0)  加入收藏
JDBC连接池封装MaxCompute/Hive/Oracle/Mysql
有时候需要连接第三方的各种数据源,总是要去写不同的代码,于是将MaxCompute, Hive, Oracle, Mysql等JDBC连接封装起来,只需要传入不同的参数即可创建一个不同类型的连接池。连...【详细内容】
2022-08-17  Search: 连接池  点击:(379)  评论:(0)  加入收藏
▌简易百科推荐
即将过时的 5 种软件开发技能!
作者 | Eran Yahav编译 | 言征出品 | 51CTO技术栈(微信号:blog51cto) 时至今日,AI编码工具已经进化到足够强大了吗?这未必好回答,但从2023 年 Stack Overflow 上的调查数据来看,44%...【详细内容】
2024-04-03    51CTO  Tags:软件开发   点击:(5)  评论:(0)  加入收藏
跳转链接代码怎么写?
在网页开发中,跳转链接是一项常见的功能。然而,对于非技术人员来说,编写跳转链接代码可能会显得有些困难。不用担心!我们可以借助外链平台来简化操作,即使没有编程经验,也能轻松实...【详细内容】
2024-03-27  蓝色天纪    Tags:跳转链接   点击:(12)  评论:(0)  加入收藏
中台亡了,问题到底出在哪里?
曾几何时,中台一度被当做“变革灵药”,嫁接在“前台作战单元”和“后台资源部门”之间,实现企业各业务线的“打通”和全域业务能力集成,提高开发和服务效率。但在中台如火如荼之...【详细内容】
2024-03-27  dbaplus社群    Tags:中台   点击:(8)  评论:(0)  加入收藏
员工写了个比删库更可怕的Bug!
想必大家都听说过删库跑路吧,我之前一直把它当一个段子来看。可万万没想到,就在昨天,我们公司的某位员工,竟然写了一个比删库更可怕的 Bug!给大家分享一下(不是公开处刑),希望朋友们...【详细内容】
2024-03-26  dbaplus社群    Tags:Bug   点击:(5)  评论:(0)  加入收藏
我们一起聊聊什么是正向代理和反向代理
从字面意思上看,代理就是代替处理的意思,一个对象有能力代替另一个对象处理某一件事。代理,这个词在我们的日常生活中也不陌生,比如在购物、旅游等场景中,我们经常会委托别人代替...【详细内容】
2024-03-26  萤火架构  微信公众号  Tags:正向代理   点击:(10)  评论:(0)  加入收藏
看一遍就理解:IO模型详解
前言大家好,我是程序员田螺。今天我们一起来学习IO模型。在本文开始前呢,先问问大家几个问题哈~什么是IO呢?什么是阻塞非阻塞IO?什么是同步异步IO?什么是IO多路复用?select/epoll...【详细内容】
2024-03-26  捡田螺的小男孩  微信公众号  Tags:IO模型   点击:(8)  评论:(0)  加入收藏
为什么都说 HashMap 是线程不安全的?
做Java开发的人,应该都用过 HashMap 这种集合。今天就和大家来聊聊,为什么 HashMap 是线程不安全的。1.HashMap 数据结构简单来说,HashMap 基于哈希表实现。它使用键的哈希码来...【详细内容】
2024-03-22  Java技术指北  微信公众号  Tags:HashMap   点击:(11)  评论:(0)  加入收藏
如何从头开始编写LoRA代码,这有一份教程
选自 lightning.ai作者:Sebastian Raschka机器之心编译编辑:陈萍作者表示:在各种有效的 LLM 微调方法中,LoRA 仍然是他的首选。LoRA(Low-Rank Adaptation)作为一种用于微调 LLM(大...【详细内容】
2024-03-21  机器之心Pro    Tags:LoRA   点击:(12)  评论:(0)  加入收藏
这样搭建日志中心,传统的ELK就扔了吧!
最近客户有个新需求,就是想查看网站的访问情况。由于网站没有做google的统计和百度的统计,所以访问情况,只能通过日志查看,通过脚本的形式给客户导出也不太实际,给客户写个简单的...【详细内容】
2024-03-20  dbaplus社群    Tags:日志   点击:(4)  评论:(0)  加入收藏
Kubernetes 究竟有没有 LTS?
从一个有趣的问题引出很多人都在关注的 Kubernetes LTS 的问题。有趣的问题2019 年,一个名为 apiserver LoopbackClient Server cert expired after 1 year[1] 的 issue 中提...【详细内容】
2024-03-15  云原生散修  微信公众号  Tags:Kubernetes   点击:(5)  评论:(0)  加入收藏
站内最新
站内热门
站内头条