负载均衡的原理说明.docx

负载均衡的演进
大家都知道一台服务器的处理能力，主要受限于服务器自身的可扩展硬件能力。所以， 在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通服务器组成一 个系统，来完成高并发的请求处理任务。
之前负载均衡只能通使得整个方案更加的复 杂。
常见的有基于Keepalived的主备方式和ECMP两种。Keepalived主备模式设备利用 率低；不能横向扩展；VRRP协议，有脑裂的风险。
而ECMP的方式需要了解动态路由协议，LVS和交换机均需要较复杂配置；交换机的
HASH算法一般比较简单，增加删除节点会造成HASH重分布，可能导致当前TCP连 接全部中断；部分交换机的ECMP在处理分片包时会有Bug，说起来心中满满的都是 血泪呀。
可靠性;ECMP+一致性哈希保证连接不中断
当负载均衡器发生变化
可伸缩性
横向扩展：ECMP集群
纵向扩展：DPDK提升单机4
虚拟化网络中的DR转发模式
当两者同时发生变更
如图：UCloud Vortex负载均衡器的设计理念
用户使用负载均衡器最重要的需求是“High Availability”和“Scalability"，Vortex
的架构设计重心就是满足用户需求，提供极致的“可靠性”和“可收缩性”，而在这两 者之间我们又把“可靠性”放在更重要的位置。
值得一提的是今年3月举办的第十三届网络系统设计与实现USENIX研讨会NSDI ’16 )
上，来自谷歌、加州大学洛杉矶分校、SpaceX公司的工程师们分享y《Maglev ：快 速、可靠的软件网络负载均衡器》，介绍了从2008年开始在生产环境投入使用的软件 负载均衡器。其设计理念和我们非常相似，同样是ECMP + 一致性哈希；同样是 Kernel Bypass模式；单机性能也和我们的Vortex非常接近。
关于 Vortex 的 High Availability 实现
四层负载均衡器的主要功能是将收到的数据包转发给不同的后端服务器，但必须保证将 五元组相同的数据包发送到同一台后端服务器，否则后端服务器将无法正确处理该数据 包。
以常见的HTTP连接为例，如果报文没有被发送到同一台后端服务器，操作系统的TCP 协议栈无法找到对应的TCP连接或者是验证TCP序列号错误将会无声无息的丢弃报文， 发送端不会得到任何的通知。如果应用层没有超时机制的话，服务将会长期不可用。
Vortex的可靠性设计面临的最大问题就是如何在任何情况下避免该情况发生。Vortex 通过ECMP集群和一致性哈希来实现极致程度的可靠性。
首先，我们来考察一下负载均衡服务器变化场景。这种场景下，可能由于负载均衡服 务器故障被动触发，也可能由于运维需要主动增加或者减少负载均衡服务器。
此时交换机会通过动态路由协议检测负载均衡服务器集群的变化，但除思科的某些型号 外大多数交换机都采用简单的取模算法，导致大多数数据包被发送到不同的负载均衡服 务器。
Vortex服务器的一致性哈希算法能够保证即使是不同的Vortex服务器收到了数据包， 仍然能够将该数据包转发到同一台后端服务器，从而保证客户应用对此类变化无感知， 业务不受任何影响。
这种场景下，如果负载均衡器是LVS且采用RR (Round Robin)算法的话，该数据包会 被送到错误的后端服务器，且上层应用无法得到任何通知。
R百初I Service Instances
轮询怎发篁法
LVS阖券转变量
云覆不孚中国，理电为13他即方所笔现
ha5r; iki：1K hg吊出随营
ir』
后I■心晶舞瑞安里瘦生共比闾一群恒联龙3巾意如力福班
& ha轲曲咻忏四才蚪落&； 4 rr2=5
留于新逅瓯皿务骞浦匕遑舞演四总RS上件新将向到朋 禁峪,眇一,“联池记晦自圆黑运算闷］ 1阳翎I』萼母中相向占吕0s严密，连窗?石布注覆生变牝□
如果LVS配置了 SH(Source Hash)算法的话，该数据包会被送到正确的后端服务器，
上层应用对此类变化无感知，业务不受任何影响；
Rg 苗I Se ivice I nsjanai：： s
源地虻哈治算法 书脏务器变量
定茂生蝴班住握狗,「和sska照酗
hw质用I .铜怖画同福
惬5 的 L1=! 2；^3S fl SILI 为田
污HS制好情配耽笠至蟆Lm4雅为1，③命器携目成
1 L^TiKRM. liashUR^.
M hm曲IU=］靠口的了
在RS蹦韶a-*MS不图WmZ H滤甲:申1•等k裁中从班”;7,；银通费用沿正型T注 化CW1A4窕更世丽□
如果负载均衡器是NGINX的话，该数据包会被TCP协议栈无声无息地丢弃，上