负载均衡的原理说明.docx

负载均衡的演进
大家都知道一台效劳器的处理水平,,
在需要处理大量用户请求的时候,通常都会引入负载均衡器,将多台普通效劳器组成一
个系统,来完成高并发的请求处理任务.

率低；不能横向扩展；VRRP协议,有脑裂的风险.
而ECMP的方式需要了解动态路由协议,LVS和交换机均需要较复杂配置；交换机的
HASH算法一般比拟简单,增加删除节点会造成HASH重分布,可能导致当前TCP连
接全部中断；局部交换机的ECMP在处理分片包时会有Bug,说起来心中满满的都是血泪呀.
♦可靠性:ECMP+一致性哈希保证连接不中断
力当负载均衡器发生变化
*当后端效劳器发生变化
.当两者同时发生变更
♦可伸缩性
.横向扩展：ECM雎群
.纵向扩展：DPDK提升单机住
-虚拟化网络中的DR转发模式
如图：UCloudVortex负载均衡器的设计理念
用户使用负载均衡器最重要的需求是"HighAvailability"和"Scalability",Vortex
的架构设计重心就是满足用户需求,提供极致的“可靠性〞和“可收缩性〞,而在这两
者之间我们又把“可靠性〞放在更重要的位置.
值得一提的是今年3月举办的第十三届网络系统设计与实现USENIX研讨会〔NSDI'16〕
上,来自谷歌、加州大学洛杉矶分校、SpaceX公司的工程师们分享了?Maglev:快
速、可靠的软件网络负载均衡器?,介绍了从2021年开始在生产环境投入使用的软件
,同样是ECMP+一致性哈希；同样是KernelBypass模式；单机性能也和我们的Vortex非常接近.
关于Vortex的HighAvailability实现
四层负载均衡器的主要功能是将收到的数据包转发给不同的后端效劳器,但必须保证将
五元组相同的数据包发送到同一台后端效劳器,否那么后端效劳器将无法正确处理该数据
包.
以常见的HTTP连接为例,如果报文没有被发送到同一台后端效劳器,操作系统的TCP
协议栈无法找到对应的TCP连接或者是验证TCP序列号错误将会无声无息的丢弃报文,,效劳将会长期不可用.

通过ECMP集群和一致性哈希来实现极致程度的可靠性.
首先,,可能由于负载均衡服
务器故障被动触发,也可能由于运维需要主动增加或者减少负载均衡效劳器.
此时交换时机通过动态路由协议检测负载均衡效劳器集群的变化,但除思科的某些型号
外大多数交换机都采用简单的取模算法,导致大多数数据包被发送到不同的负载均衡效劳器
Vortex效劳器的一致性哈希算法能够保证即使是不同的Vortex效劳器收到了数据包,
仍然能够将该数据包转发到同一台后端效劳器,从而保证客户应用对此类变化无感知,
业务不受任何影响.
这种场景下,如果负载均衡器是LVS且采用RR(RoundRobin)算法的话,该数据包会
RpalqHfviC中卜1,)4仃七七弓
被送到错误的后端效劳器,且上层应用无法得到任何通知.
轮固田发篁法
"由由科IWhjfcih)rFtofe5
1Tl
名WSffi色飙・庞生娶叱觎*斯底金拈3♦厢邺行啦
ha辅1制
4'ftJ-5
固于卬51遍LVS理妾露翻匕逢舞以更晓龄：W汇fe亡生,士
五❹RS,酬乂泉廨闻5式箱连通发电酬鸵R羽
1/ftSJXl：?书.■工卬口箪引Ka张上降印4％二*1雷〜
如果LVS配置了SH(SourceHash)算法的话,该数据包会被送到正确的后端效劳器,
上层应用对此类变化无感知,业务不受任何影响;
如果负载均衡器是NGINX的话,该数据包会被TCP协议栈无声无息地丢弃,上层应用
不会得到任何通知.
其次,来考察后端效劳器变化的场景.
这种场景下,可能由于后端效劳器故障由健康检查机制检查出来,也可能由于运维需要
主动增加或者减少后端效劳器.
此时,Vortex效劳器会通过连接追踪机制保证当前活动连接的数据包被送往之前选择
的效劳器,而所有新建连接那么会在变化后的效劳器集群中进行负载分担.
同时,Vortex一致性哈希算法能保证大局部新建连接与后端效劳器的映射关系保持不
变,只有最少数量的映射关系发生变化,从而最大限度地减小了对客户端到端的应用层
面的影响.
这种场景下,如果负载均衡器是LVS且SH算法的话,大局部新建连