您当前的位置:首页 > 电脑百科 > 程序开发 > 框架

Spring项目不要忽视这个超时配置,否则你的Http调用可能无法结束

时间:2023-02-26 14:26:47  来源:51CTO  作者:JAVA旭阳

前言

不知道你有没有过这样的经历,你的Spring项目通过http接口远程调用外部系统时,通常你会设置超时时间,比如5秒钟,但是实际情况却是由于外部系统出现故障并导致连接超时,有些请求花费远远超过5秒时间,甚至1分钟,这直接导致你本身的接口响应很慢,如果访问你接口的流量很大的话,甚至拖垮你的系统,这将会是灾难性的后果。

图片

你可能会好奇到底是什么原因导致的,很可能是你忽略了这个超时配置项connectionRequestTimeout导致的。

Spring中的连接池

在深入了解 connectionRequestTimeout 之前,我们需要了解外部 HTTP 请求是如何在 Spring 中进行的。

图片

Spring 通过Http调用外部系统的时候,会使用连接池去管理他们。因为HTTP请求创建连接代价比较高,而连接池可以做到连接的复用,回过头,我们思考下为什么会代价高呢?

  • DNS 解析:在建立连接之前,客户端必须首先使用域名系统 (DNS) 将服务器的域名解析为 IP 地址。DNS 解析可能需要时间,尤其是在客户端的 DNS 缓存很冷且服务器的域名尚未缓存的情况下。
  • TCP 握手:确定服务器的 IP 地址后,客户端必须与服务器建立 TCP 连接。这涉及三次握手过程,这可能会花费时间并增加请求的开销。
  • SSL/TLS 协商:如果服务器使用 HTTPS,客户端还必须在可以交换任何数据之前与服务器协商 SSL/TLS 连接。这涉及一个复杂的握手过程,可能会增加请求的大量开销。

为 HTTP 请求使用连接池可以显着提高性能。但是,我们需要对其进行适当配置以防止出现灾难情况。

什么是连接请求超时?

现在让我们用连接池的概念再来看问题。

图片

本例中B组件是外部系统,处于无法建立HTTP连接的情况,导致A中的连接超时,请仔细看上面A指向连接池的箭头,A 正在等待另一个连接来建立到 B 的 HTTP 连接。

connectionRequestTimeout 是 Spring 中的一个配置参数,用于确定客户端在超时前等待来自连接池的连接的时间。此超时值用于防止客户端无限期地等待可能不可用的连接,并在不再需要时释放连接池中的资源。

API 响应时间 = connectionRequestTimeout​ + connectionTimeout​ + readTimeout 。

  • connectionRequestTimeout:等待从连接池获取连接的时间。
  • connectionTimeout:等待与外部组件建立连接的时间。
  • readTimeout:等待外部组件响应的时间。

如何设置connectionRequestTimeout?

connectionRequestTimeout 的默认值为 -1,这意味着它无限期地等待来自连接池的连接。由于我们希望避免外部组件中断导致系统故障,因此我们需要为其设置一个显式值。

假设您将值设置得太短:1 秒。如果系统需要高延迟,这可能是一个频繁的故障,因为它可能一直渴望连接。另一方面,如果该值太长,比如 10 分钟,系统很容易因外部故障而失败。

因此,你需要统计系统的API响应时间, 最大超时响应时间如下:

API 响应时间 = connectionRequestTimeout + connectionTimeout + readTimeout。

看看是否有很多请求超过了connectionTimeout和readTimeout​之和, 如果是这样的话,系统需要增大连接池的大小或者减小connectionRequestTimeout​值。否则就将 connectionRequestTimeout 合理设置为 15 秒到 30 秒之间。

下面是设置 connectionRequestTimeout 的示例代码。

import org.springframework.http.client.HttpComponentsClientHttpRequestFactory;
import org.springframework.web.client.RestTemplate;

public class ConnectionRequestTimeoutExample {

    public static void mAIn(String[] args) {
        RestTemplate restTemplate = new RestTemplate();
        HttpComponentsClientHttpRequestFactory requestFactory = new HttpComponentsClientHttpRequestFactory();
        // Set the connectionRequestTimeout value to 10 seconds
        requestFactory.setConnectionRequestTimeout(10000);
        restTemplate.setRequestFactory(requestFactory);
        ...
    }
}

在这个例子中,我们创建了一个新的RestTemplate​和一个新的HttpComponentsClientHttpRequestFactory​,然后我们connectionRequestTimeout​使用该方法将该值设置为 10 秒,并使用该方法为 RestTemplate​ 设置请求工厂setRequestFactory()。

总结

最后,我们在总结以下Spring中Http请求的3个关键的超时配置吧,其中connectionRequestTimeout 最容易被忽视的。

  • connectionRequestTimeout:等待从连接池获取连接的时间
  • connectionTimeout:等待与外部组件建立连接的时间
  • readTimeout:等待外部组件响应的时间


Tags:Spring   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
Spring Security:保障应用安全的利器
SpringSecurity作为一个功能强大的安全框架,为Java应用程序提供了全面的安全保障,包括认证、授权、防护和集成等方面。本文将介绍SpringSecurity在这些方面的特性和优势,以及它...【详细内容】
2024-02-27  Search: Spring  点击:(54)  评论:(0)  加入收藏
Spring Security权限控制框架使用指南
在常用的后台管理系统中,通常都会有访问权限控制的需求,用于限制不同人员对于接口的访问能力,如果用户不具备指定的权限,则不能访问某些接口。本文将用 waynboot-mall 项目举例...【详细内容】
2024-02-19  Search: Spring  点击:(39)  评论:(0)  加入收藏
详解基于SpringBoot的WebSocket应用开发
在现代Web应用中,实时交互和数据推送的需求日益增长。WebSocket协议作为一种全双工通信协议,允许服务端与客户端之间建立持久性的连接,实现实时、双向的数据传输,极大地提升了用...【详细内容】
2024-01-30  Search: Spring  点击:(17)  评论:(0)  加入收藏
Spring实现Kafka重试Topic,真的太香了
概述Kafka的强大功能之一是每个分区都有一个Consumer的偏移值。该偏移值是消费者将读取的下一条消息的值。可以自动或手动增加该值。如果我们由于错误而无法处理消息并想重...【详细内容】
2024-01-26  Search: Spring  点击:(86)  评论:(0)  加入收藏
SpringBoot如何实现缓存预热?
缓存预热是指在 Spring Boot 项目启动时,预先将数据加载到缓存系统(如 Redis)中的一种机制。那么问题来了,在 Spring Boot 项目启动之后,在什么时候?在哪里可以将数据加载到缓存系...【详细内容】
2024-01-19  Search: Spring  点击:(86)  评论:(0)  加入收藏
Spring Boot2.0深度实践 核心原理拆解+源码分析
Spring Boot2.0深度实践:核心原理拆解与源码分析一、引言Spring Boot是一个基于Java的轻量级框架,它简化了Spring应用程序的创建过程,使得开发者能够快速搭建一个可运行的应用...【详细内容】
2024-01-15  Search: Spring  点击:(95)  评论:(0)  加入收藏
SpringBoot3+Vue3 开发高并发秒杀抢购系统
开发高并发秒杀抢购系统:使用SpringBoot3+Vue3的实践之旅随着互联网技术的发展,电商行业对秒杀抢购系统的需求越来越高。为了满足这种高并发、高流量的场景,我们决定使用Spring...【详细内容】
2024-01-14  Search: Spring  点击:(91)  评论:(0)  加入收藏
Spring Boot 3.0是什么?
Spring Boot 3.0是一款基于Java的开源框架,用于简化Spring应用程序的构建和开发过程。与之前的版本相比,Spring Boot 3.0在多个方面进行了改进和增强,使其更加易用、高效和灵活...【详细内容】
2024-01-11  Search: Spring  点击:(133)  评论:(0)  加入收藏
GraalVM与Spring Boot 3.0:加速应用性能的完美融合
在2023年,SpringBoot3.0的发布标志着Spring框架对GraalVM的全面支持,这一支持是对Spring技术栈的重要补充。GraalVM是一个高性能的多语言虚拟机,它提供了Ahead-of-Time(AOT)编...【详细内容】
2024-01-11  Search: Spring  点击:(124)  评论:(0)  加入收藏
Spring Boot虚拟线程的性能还不如Webflux?
早上看到一篇关于Spring Boot虚拟线程和Webflux性能对比的文章,觉得还不错。内容较长,抓重点给大家介绍一下这篇文章的核心内容,方便大家快速阅读。测试场景作者采用了一个尽可...【详细内容】
2024-01-10  Search: Spring  点击:(117)  评论:(0)  加入收藏
▌简易百科推荐
Web Components实践:如何搭建一个框架无关的AI组件库
一、让人又爱又恨的Web ComponentsWeb Components是一种用于构建可重用的Web元素的技术。它允许开发者创建自定义的HTML元素,这些元素可以在不同的Web应用程序中重复使用,并且...【详细内容】
2024-04-03  京东云开发者    Tags:Web Components   点击:(8)  评论:(0)  加入收藏
Kubernetes 集群 CPU 使用率只有 13% :这下大家该知道如何省钱了
作者 | THE STACK译者 | 刘雅梦策划 | Tina根据 CAST AI 对 4000 个 Kubernetes 集群的分析,Kubernetes 集群通常只使用 13% 的 CPU 和平均 20% 的内存,这表明存在严重的过度...【详细内容】
2024-03-08  InfoQ    Tags:Kubernetes   点击:(12)  评论:(0)  加入收藏
Spring Security:保障应用安全的利器
SpringSecurity作为一个功能强大的安全框架,为Java应用程序提供了全面的安全保障,包括认证、授权、防护和集成等方面。本文将介绍SpringSecurity在这些方面的特性和优势,以及它...【详细内容】
2024-02-27  风舞凋零叶    Tags:Spring Security   点击:(54)  评论:(0)  加入收藏
五大跨平台桌面应用开发框架:Electron、Tauri、Flutter等
一、什么是跨平台桌面应用开发框架跨平台桌面应用开发框架是一种工具或框架,它允许开发者使用一种统一的代码库或语言来创建能够在多个操作系统上运行的桌面应用程序。传统上...【详细内容】
2024-02-26  贝格前端工场    Tags:框架   点击:(47)  评论:(0)  加入收藏
Spring Security权限控制框架使用指南
在常用的后台管理系统中,通常都会有访问权限控制的需求,用于限制不同人员对于接口的访问能力,如果用户不具备指定的权限,则不能访问某些接口。本文将用 waynboot-mall 项目举例...【详细内容】
2024-02-19  程序员wayn  微信公众号  Tags:Spring   点击:(39)  评论:(0)  加入收藏
开发者的Kubernetes懒人指南
你可以将本文作为开发者快速了解 Kubernetes 的指南。从基础知识到更高级的主题,如 Helm Chart,以及所有这些如何影响你作为开发者。译自Kubernetes for Lazy Developers。作...【详细内容】
2024-02-01  云云众生s  微信公众号  Tags:Kubernetes   点击:(50)  评论:(0)  加入收藏
链世界:一种简单而有效的人类行为Agent模型强化学习框架
强化学习是一种机器学习的方法,它通过让智能体(Agent)与环境交互,从而学习如何选择最优的行动来最大化累积的奖励。强化学习在许多领域都有广泛的应用,例如游戏、机器人、自动驾...【详细内容】
2024-01-30  大噬元兽  微信公众号  Tags:框架   点击:(68)  评论:(0)  加入收藏
Spring实现Kafka重试Topic,真的太香了
概述Kafka的强大功能之一是每个分区都有一个Consumer的偏移值。该偏移值是消费者将读取的下一条消息的值。可以自动或手动增加该值。如果我们由于错误而无法处理消息并想重...【详细内容】
2024-01-26  HELLO程序员  微信公众号  Tags:Spring   点击:(86)  评论:(0)  加入收藏
SpringBoot如何实现缓存预热?
缓存预热是指在 Spring Boot 项目启动时,预先将数据加载到缓存系统(如 Redis)中的一种机制。那么问题来了,在 Spring Boot 项目启动之后,在什么时候?在哪里可以将数据加载到缓存系...【详细内容】
2024-01-19   Java中文社群  微信公众号  Tags:SpringBoot   点击:(86)  评论:(0)  加入收藏
花 15 分钟把 Express.js 搞明白,全栈没有那么难
Express 是老牌的 Node.js 框架,以简单和轻量著称,几行代码就可以启动一个 HTTP 服务器。市面上主流的 Node.js 框架,如 Egg.js、Nest.js 等都与 Express 息息相关。Express 框...【详细内容】
2024-01-16  程序员成功  微信公众号  Tags:Express.js   点击:(88)  评论:(0)  加入收藏
站内最新
站内热门
站内头条