您当前的位置:首页 > 电脑百科 > 程序开发 > 架构

全面分析:Web基础架构负载均衡LVS机制的原理

时间:2023-01-07 11:19:45  来源:今日头条  作者:Java灵风

前提概要

 

在大规模互联网应用中,负载均衡设备是必不可少的组成部分,源于互联网应用的高并发和大流量的冲击压力场景下,通常会在服务端部署多个无状态的应用服务器和若干有状态的存储服务器(数据库、缓存等等)实现高可用特点和机制。
LVS的介绍说明
  1. 官方站点:http://www.linuxvirtualserver.org;
  2. 用过LVS的朋友,其实大家的目的性很明确,就是需要通过LVS提供的负载均衡技术和Linux操作系统实现一个高性能,高可用的服务器群集;
  3. 并且这个集群具有良好的可靠性、可扩展性和可操作性,从而以低廉的成本实现最优的服务性能,这也是大多数中小型公司青睐的架构
LVS的体系架构请求传播路径

 


 

负载均衡层(Load Balancer)

  1. 处于集群最前端,一台或多台构成负载调度,俗称负载调度器(Director Server);
  2. 分发请求给服务器集群组层的应用服务器(Real Server);
  3. 监控应用服务器健康状况,动态从LVS路由表中剔除、添加;
  4. 也可以兼职Real Server的身份;
负载均衡的作用
  • 负载均衡设备的任务就是作为应用服务器流量的入口,挑选最合适的一台服务器,将客户端的请求转发给它处理,实现客户端到真实服务端的透明转发
  • 云计算以及分布式架构,本质上也是将后端服务器作为计算资源、存储资源,由某台管理服务器封装成一个服务对外提供,客户端不需要关心真正提供服务的是哪台机器,在它看来,就好像它面对的是一台拥有近乎无限能力的服务器,而本质上,真正提供服务的,是后端的集群支撑的计算能力。
典型的互联网应用的拓扑结构

 


 


负载均衡的类型

  • 负载均衡可以采用硬件设备,也可以采用软件负载。商用硬件负载设备成本通常较高(一台几十万上百万很正常)一般有F5和A10硬件负载均衡
  • 所以在条件允许的情冴下我们会采用软负载,软负载解决的两个核心问题是:选谁、转发,其中最著名的是 LVS(Linux Virtual Server)、Nginx、HAproxy等
软负载均衡(LVS)
LVS 是四层负载均衡,是我们国家著名技术专家:章文嵩博士研发的,也就是说建立在 OSI 模型的第四层——传输层之上,传输层上有我们熟悉的TCP/UDP,LVS支持TCP/UDP的负载均衡。
LVS的转发主要通过修改IP地址(NAT模式,分为源地址修改SNAT和目标地址修改DNAT)、修改目标mac(DR 模式)来实现。
LVS是在第四层做负载均衡
  • 首先,LVS不像HAProxy等七层软负载面向的是HTTP包,所以七层负载可以做的URL解析等工作,LVS无法完成。
  • 其次,用户访问是与服务端建立连接后交换数据包实现的,如果在第三层网络层做负载均衡,那么将失去「连接」的语义
  • 软负载面向的对象应该是一个已经建立连接的用户,而不是一个孤零零的 IP 包后面会看到,实际上 LVS 的机器代替真实的服务器的用户通过TCP三次握手建立了连接所以 LVS 是需要关心「连接」级别的状态的
服务器群组层(Server Arrary)
  1. 一台或多台实际运行的应用服务器构成;
  2. 每个Real Server关联时通过有效网络互连;
共享存储层(Shared Storage)

 

提供共享存储空间和内容一致性的存储区域;例如:数据库、OSS存储、FS文件服务器等。

LVS相关术语

  • DS:Director Server。指的是前端负载均衡器节点。
  • RS:Real Server。后端真实的工作服务器。
  • VIP:向外部直接面向用户请求,作为用户请求的目标的IP地址。
  • DIP:Director Server IP,主要用于和内部主机通讯的IP地址。
  • RIP:Real Server IP,后端服务器的IP地址。
  • CIP:Client IP,访问客户端的IP地址。
LVS 的工作模式主要有 4 种:
  • DR
  • NAT
  • TUNNEL
  • Full-NAT
  • TUN

 

返里挑选常用的 DR、NAT、Full-NAT、TUN 来简单介绍一下。

DR(Dynamic Route 动态路由)

通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变;


 

请求由LVS接受,由真实提供服务的服务器(RealServer, RS)直接返回给用户,返回的时
候不经过 LVS。

流程分析

DR 模式下需要LVS和绑定同一个 VIP(RS 通过将 VIP绑定在 loopback 实现),此时报文的源IP为CIP,目标IP为VIP;

源地址

目的地址

CIP

VIP

源MAC地址

目的MAC地址

CIP-MAC

VIP-MAC

 

  1. 当用户请求到达DS后,LVS只需要将网络帧的MAC地址修改为某一台RS的 MAC,该包就会被转发到相应的RS处理,注意此时的源IP和目标IP都没变,LVS 只是做了一下移花接木

 

IPVS比对数据包请求的服务是否为集群服务,若是,将请求报文中的源MAC地址修改为DIP的MAC地址,将目标MAC地址修改RIP的MAC地址, 此时的源IP和目的IP均未修改,仅修改了源MAC地址为DIP的MAC地址,目标MAC地址为RIP的MAC地址;

源地址

目的地址

CIP

VIP

源MAC地址

目的MAC地址

DIP-MAC

RIP-MAC

 

  1. 由于DS和RS在同一个网络中,所以是通过二层来传输。目标MAC地址为RIP的MAC地址,那么此时数据包将会发至RS。
  2. RS 收到 LVS 转发来的包,链路层发现 MAC 是自己的,到上面的网络层,发现 IP 也是自己的,于是返个包被合法地接受,RS 感知不到前面有 LVS 的存在。处理完成之后,将响应报文通过lo接口传送给eth0网卡然后向外发出,此时的源IP地址为VIP,目标IP为CIP;

 

源地址

目的地址

VIP

CIP

 

  1. 响应报文最终送达至客户端,而当 RS 返回响应时,只要直接向源 IP(即用户的 IP)返回即可,不再经过 LVS。DR 模式是性能最好的一种模式

 

这种模式下,有几个要点:

 

主要是这种模式在于,通过LVS只是在请求阶段做转发,而且修改的也不是IP地址,而是MAC地址,针对于修改后的MAC地址会自动转发到对应网段内MAC主机的服务器上面,之后因为IP都没有改变,之后实际RS可以直接发送给目标Client服务器,这种性能最好,但是对网络层面要求比较高,对网络扩展角度而言控制力度略低。
NAT.NETwork Address Translation 网络地址准换)
  • NAT是一种外网和内网地址映射的技术
  • NAT模式下,网络报的进出都要经过LVS的处理
原理

 

多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为选出来的RS的RIP和PORT实现转发。


 

流程分析

  1. LVS需要作为RS的网关,当包到达LVS 时LVS 做目标地址转换(DNAT)。此时报文的源IP为CIP,目标IP为VIP;

 

源地址

目的地址

CIP

VIP

 

  1. IPVS比对数据包请求的服务是否为集群服务,若是,修改数据包的目标IP地址为后端服务器IP, 此时报文的源IP为CIP,目标IP为RIP;RS接收到包以后,仿佛是客户端直接发给它的一样。

 

源地址

目的地址

CIP

RIP

 

  1. RS比对发现目标为自己的IP,将请求处理完,返回响应时,此时报文的源IP为RIP,目标IP为CIP;

 

源地址

目的地址

RIP

CIP

 

  1. 返回时RS的包通过网关(LVS)中转,LVS 会做源地址转换(SNAT),将包的源地址改为VIP,这样,这个包对客户端看起来就仿佛是LVS直接返回给它的。此时会将源IP地址修改为自己的VIP地址,然后响应给客户端,此时报文的源IP为VIP,目标IP为CIP;

 

客户端无法感知到后端RS 的存在

源地址

目的地址

VIP

CIP

要点

客户端是不知道真是RS地址的,但是RS服务器却是可以知道ClientIP的(因为数据包中会包含了ClientIP),但是由于中介LVS的原因,使得发送的时候发给VIP(LVS),返回的时候,由LVS把源地址修改为VIP,所以对于客户端不能来讲是不知道目标地址的RS的存在。这就是反向代理的概念,客户端是不知道真正服务器的存在,知道的只有门面VIP的存在

特性

  1. 要求DS具备双网卡,VIP应对公网,而DIP必须和RIP在同一个网段内;
  2. RIP、DIP应该使用私网地址,同在一个网段中,且RS的网关要指向DIP;
  3. 请求和响应报文都要经由DS转发,极高负载中,DS可能会成为系统瓶颈;
  4. RS可以使用任意OS;
TUN

 

在原有的IP报文外再次封装多一层IP首部,内部IP首部(源地址为CIP,目标IIP为VIP),外层IP首部(源地址为DIP,目标IP为RIP)。

流程分析

  1. 当用户请求到达DS后,此时请求的数据报文会先到内核空间的PREROUTING链,此时报文的源IP为CIP,目标IP为VIP;

 

源地址

目的地址

CIP

VIP

 

  1. PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链;
  2. IPVS比对数据包请求的服务是否为集群服务,若是,在请求报文的首部再次封装一层IP报文,封装源IP为为DIP,目标IP为RIP。然后发至POSTROUTING链。 此时源IP为DIP,目标IP为RIP;

 

IP首部源地址

IP首部目的地址

源地址

目的地址

DIP

RIP

CIP

VIP

 

  1. POSTROUTING链根据最新封装的IP报文,将数据包发至RS(因为在外层封装多了一层IP首部,所以可以理解为此时通过隧道传输),此时源IP为DIP,目标IP为RIP;
  2. RS接收到报文后发现是自己的IP地址,就将报文接收下来,拆除掉最外层的IP后,会发现里面还有一层IP首部,而且目标是自己的tun0接口VIP,那么此时RS开始处理此请求,处理完成之后,通过tun0接口送出去向外传递,此时的源IP地址为VIP,目标IP为CIP;

 

源地址

目的地址

VIP

CIP

 

  1. 响应报文最终送达至客户端;
特性

 

1、DIP、VIP、RIP都应该是公网地址;
2、RS的网关不能,也不可能指向DIP;
3、RS必须支持IP隧道;

Full-NAT

无论是 DR 还是 NAT 模式,不可避免的都有一个问题:LVS 和 RS 必须在同一个 vlan 下, 否则 LVS 无法作为 RS 的网关。

 

这引发的两个问题是:

 

  1. 同一个VLAN的限制导致运维不方便,跨VLAN的RS无法接入
  2. LVS的水平扩展受到制约。当RS水平扩容时,总有一天其上的单点LVS会成为瓶颈
Full-NAT 由此而生,解决的是 LVS 和 RS 跨 VLAN 的问题,而跨 VLAN 问题解决后,LVS 和 RS 不再存在 VLAN 上的从属关系,可以做到多个 LVS 对应多个 RS,解决水平扩容的问 题。

 

Full-NAT 相比 NAT 的主要改迕是,在 SNAT/DNAT 的基础上,加上另一种转换,转换过
程如下:


 

 

  • 在包从 LVS 转到 RS 的过程中,源地址从客户端 IP 被替换成了 LVS 的内网 IP。
  • 内网IP之间可以通过多个交换机跨VLAN通信
  • 当RS处理完接受到的包,返回时,会将返个包返回给LVS的内网IP,返一步也不受限于VLAN。
  • LVS 收到包后,在 NAT 模式修改源地址的基础上,再把RS发来的包中的目标地址从LVS内网 IP 改为客户端的 IP。
Full-NAT主要的思想是把网关和其下机器的通信,改为了普通的网络通信,从而解决了跨 VLAN 的问题。采用返种方式,LVS 和 RS 的部署在 VLAN 上将不再有任何限制,大大提高了运维部署的便利性。
上面其实是把内网ip和内网ip之间通过交换机进行转换捆绑,从而可以跨vlan进行服务请求代理。
Session
客户端与服务端的通信,一次请求可能包含多个TCP 包,LVS 必须保证同一连接的TCP包,必须被转发到同一台RS,否则就乱套了。为了确保返一点,LVS 内部维护着一个 Session的 Hash 表,通过客户端的某些信息可以找到应该转发到哪一台 RS 上。
LVS 集群化
采用 Full-NAT 模式后,可以搭建 LVS 的集群,拓扑结构如下图:

 


 

容灾

容灾分为 RS 的容灾和 LVS 的容灾。
RS 的容灾可以通过 LVS 定期健康检测实现,如果某台 RS 失去心跳,则认为其已经下线, 不会在转发到该 RS 上。
LVS 的容灾可以通过主备+心跳的方式实现。主 LVS 失去心跳后,备 LVS 可以作为热备立 即替换。

 

容灾主要是靠 KeepAlived 来做的。(心跳以及下线剔除或者替换工作主要通过keepalived进行控制)



Tags:架构   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
前提概要 在大规模互联网应用中,负载均衡设备是必不可少的组成部分,源于互联网应用的高并发和大流量的冲击压力场景下,通常会在服务端部署多个无状态的应用服务器和若干有状态...【详细内容】
2023-01-07  Tags: 架构  点击:(0)  评论:(0)  加入收藏
IT之家 1 月 5 日消息,谷歌已经正式宣布 Android 将支持 RISC-V 指令集架构。该公告来自去年 12 月举行的 RISC-V 峰会。RISC-V 是精简指令集计算机 V 架构,这是一种开放的、...【详细内容】
2023-01-05  Tags: 架构  点击:(9)  评论:(0)  加入收藏
李根 丰色 发自 凹非寺 量子位 | 公众号 QbitAI “Can Machines Think?”这是阿兰·图灵在1950年论文《计算机器和智能》中的经典提问,围绕着图灵的目标,软件和硬件开启...【详细内容】
2023-01-03  Tags: 架构  点击:(11)  评论:(0)  加入收藏
官方网站 www.itilzj.com 文档资料: wenku.itilzj.com单聊在众多的软件中,聊天功能是不可或缺的一个功能模块,或是用户和用户,或是用户和客服,都需要一个能够即时沟通的功能。那...【详细内容】
2023-01-03  Tags: 架构  点击:(6)  评论:(0)  加入收藏
不久前,腾讯QQ项目组发布预告,宣布采用全新架构的QQ for Linux新版本即将开启公测。现在,QQ for Linux 3.0正式版已经上架QQ官网,Linux用户可以直接下载进行尝试。据悉,此次的QQ...【详细内容】
2022-12-28  Tags: 架构  点击:(33)  评论:(0)  加入收藏
分享七牛云CEO「许式伟」对于这个话题的思考。 你好,我是许式伟。从今天起,我想和你一起来聊聊架构的话题。开始之前,我先来和你简单介绍下我自己。我是2000年开始工作的,曾经做...【详细内容】
2022-12-19  Tags: 架构  点击:(12)  评论:(0)  加入收藏
软件体系架构基于一组适用于各种软件系统的基本原则,有经验的架构师知道这些原则,并且能够在软件产品的正确位置实现特定的原则。下面我们快速浏览一下架构师日常遵循的基本原...【详细内容】
2022-12-13  Tags: 架构  点击:(3)  评论:(0)  加入收藏
企业越来越需要升级其应用程序和方法,以便为数百万人提供数字体验。一种这样的方法是无服务器。技术主管现在正在重新考虑他们的战略,以响应提高敏捷性和降低总运营开销和成...【详细内容】
2022-12-09  Tags: 架构  点击:(19)  评论:(0)  加入收藏
背景单体应用在向微服务化架构演进时,需要考虑如何解决服务认证授权的问题。如果处理不好,会引发架构的混乱,带来安全、性能、难以维护的问题。 以最典型的包含WEB页面的具备登...【详细内容】
2022-12-03  Tags: 架构  点击:(23)  评论:(0)  加入收藏
为什么要做个性化推荐回顾弹幕工程建设的发展历程,大致可以分几个阶段:1. 基础能力:在高并发、热点场景下,保证弹幕服务的稳定和高可用2. 负向治理:以管控为目标,通过删除、自检、...【详细内容】
2022-11-26  Tags: 架构  点击:(23)  评论:(0)  加入收藏
▌简易百科推荐
前提概要 在大规模互联网应用中,负载均衡设备是必不可少的组成部分,源于互联网应用的高并发和大流量的冲击压力场景下,通常会在服务端部署多个无状态的应用服务器和若干有状态...【详细内容】
2023-01-07  Java灵风  今日头条  Tags:架构   点击:(0)  评论:(0)  加入收藏
IT之家 1 月 5 日消息,谷歌已经正式宣布 Android 将支持 RISC-V 指令集架构。该公告来自去年 12 月举行的 RISC-V 峰会。RISC-V 是精简指令集计算机 V 架构,这是一种开放的、...【详细内容】
2023-01-05  IT之家     Tags:架构   点击:(9)  评论:(0)  加入收藏
李根 丰色 发自 凹非寺 量子位 | 公众号 QbitAI “Can Machines Think?”这是阿兰·图灵在1950年论文《计算机器和智能》中的经典提问,围绕着图灵的目标,软件和硬件开启...【详细内容】
2023-01-03  量子位     Tags:架构   点击:(11)  评论:(0)  加入收藏
官方网站 www.itilzj.com 文档资料: wenku.itilzj.com单聊在众多的软件中,聊天功能是不可或缺的一个功能模块,或是用户和用户,或是用户和客服,都需要一个能够即时沟通的功能。那...【详细内容】
2023-01-03  IT架构师联盟     Tags:架构   点击:(6)  评论:(0)  加入收藏
SpringBoot检验注解@Null 限制只能为null@NotNull 限制必须不为null@NotEmpty 只作用于字符串类型,字符串不为空,并且长度不为0@NotBlank 只作用于字符串类型,字符串不为空,并且...【详细内容】
2022-12-29  九天银河聊编程  今日头条  Tags:SpringBoot   点击:(14)  评论:(0)  加入收藏
官方网站 www.itilzj.com 文档资料: wenku.itilzj.comES 的集群模式和 kafka 很像,kafka 又和 redis 的集群模式很像。总之就是相互借鉴!不管你用没用过 ES,今天我们一起聊聊它...【详细内容】
2022-12-26   IT架构师联盟     Tags:Elasticsearch   点击:(8)  评论:(0)  加入收藏
背景部门中维护了一个老系统,功能都耦合在一个单体应用中(300+接口),表也放在同一个库中(200+表),导致系统存在很多风险和缺陷。经常出现问题:如数据库的单点、性能问题,应用的扩...【详细内容】
2022-12-17  闪念基因  今日头条  Tags:微服务   点击:(13)  评论:(0)  加入收藏
软件体系架构基于一组适用于各种软件系统的基本原则,有经验的架构师知道这些原则,并且能够在软件产品的正确位置实现特定的原则。下面我们快速浏览一下架构师日常遵循的基本原...【详细内容】
2022-12-13   IT架构师联盟     Tags:架构   点击:(3)  评论:(0)  加入收藏
这是个很尴尬的话题,为什么这么说呢?当我们在讨论卷和造轮子两个事情的时候,SpringBoot 的开发人员也正在做着同样的事情...回顾之前在 微服务-分布式链路 这篇文章中我介绍了...【详细内容】
2022-12-10  小小怪下士的架构攻略  今日头条  Tags:SpringBoot   点击:(55)  评论:(0)  加入收藏
背景单体应用在向微服务化架构演进时,需要考虑如何解决服务认证授权的问题。如果处理不好,会引发架构的混乱,带来安全、性能、难以维护的问题。 以最典型的包含WEB页面的具备登...【详细内容】
2022-12-03  儒雅程序员阿鑫  今日头条  Tags:微服务   点击:(23)  评论:(0)  加入收藏
站内最新
站内热门
站内头条