负载均衡的原理说明.docx

大家都知道一台服务器的处理能力,主要受限于服务器自身的可扩展硬件能力。所以, 在需要处理大量用户请求的时候, 通常都会引入负载均衡器, 将多台普通服务器组成一个系统,来完成高并发的请求处理任务。之前负载均衡只能通过 DNS 来实现, 1996 年之后,出现了新的网络负载均衡技术。通过设置虚拟服务地址( IP ),将位于同一地域( Region )的多台服务器虚拟成一个高性能、高可用的应用服务池; 再根据应用指定的方式, 将来自客户端的网络请求分发到服务器池中。网络负载均衡会检查服务器池中后端服务器的健康状态, 自动隔离异常状态的后端服务器, 从而解决了单台后端服务器的单点问题, 同时提高了应用的整体服务能力。网络负载均衡主要有硬件与软件两种实现方式, 主流负载均衡解决方案中, 硬件厂商以 F5 为代表目前市场占有率超过 50% ,软件主要为 NGINX 与 LVS 。但是,无论硬件或软件实现, 都逃不出基于四层交互技术的“转发”或基于七层协议的“代理”这两种方式。四层的转发模式通常性能会更好,但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中,这两种方式会同时存在。 2007 年 F5 提出了 ADC ( Application delivery controller ) 的概念为传统的负载均衡器增加了大量的功能, 常用的有: SSL 卸载、压缩优化和 TCP 连接优化。 NGINX 也支持很多 ADC 的特性,但 F5 的中高端型号会通过硬件加速卡来实现 SSL 卸载、压缩优化这一类 CPU 密集型的操作,从而可以提供更好的性能。 F5 推出 ADC 以后, 各种各样的功能有很多, 但其实我们最常用的也就几种。这里我也简单的总结了一下,并和 LVS 、 Nginx 对比了一下。 SSL 卸载和压缩优化,主要是将 CPU 密集型的加解密和压缩操作移到负载均衡器上进行; TCP 连接优化主要指的是用户和负载均衡器短连接的同时, 负载均衡器和后端服务器建立长连接。不过我们本次主要介绍四层负载均衡,所以这些高级 ADC 功能不会涉及到。 F5 的硬件负载均衡产品又分单机 Big IP 系列和集群 VISRION 系列,都是 X86 架构, 配合自研的 TMOS ( Traffic Management Operating System ),再加上硬件加速卡( Cavium 提供)处理 SSL 和压缩等 CPU 密集型操作。 L4 CPS : 四层每秒新建连接数。测试的时候一般采用 TCP 短连接, 每次请求 128 字节。体现 CPU 性能,最重要的性能指标,没有之一。 L4 最大并发连接数:体现内存大小 L7 RPS : 七层每秒请求数。测试时每连接 10 个 128 字节 HTTP 请求。主要体现 HTT P 协议栈性能这些性能指标实际上就是一个负载均衡器最关键的指标了。大家如有采购硬件负载均衡器一定要看这个。有很多小牌子的硬件负载均衡器经常不标注 L4 CPS ,只是笼统地说 10G 负载均衡,其实差别很大的。硬件负载均衡在功能、易用性和可扩展性上都做得不错, 但是也有不少缺点。从商业角度来说, 硬件负载均衡产品过于昂贵, 高端产品动辄五十万甚至数百万的价格对于用户是几乎不可承受的负担。从使用角度来说, 硬件负载均衡是黑盒,有 BUG 需要联系厂商等待解决, 时间不可控、新特性迭代缓慢且需资深人员维护升级,也是变相增加昂贵的人力成本。相信除了很多不差钱的公司,大家还是用软件负载均衡比较多。软件四层负载均衡最常见的就是 LVS 了。 LVS 最常用的有 NAT 、 DR 以及新的 FULL NAT 模式。上图比较了几种常见转发模式的优缺点。我们认为 LVS 的每种转发模式都有其优点和缺点,但最大的问题还是其复杂性。我第一次看到这三种转发方式、还有 F5 的单臂模式、双臂模式都会有云里雾里的感觉。雪上加霜的是咱们还需要考虑 LVS 的性能扩展和容灾方法,这使得整个方案更加的复杂。常见的有基于 Keepalived 的主备方式和 ECMP 两种。 Keepalived 主备模式设备利用率低;不能横向扩展; VRRP 协议,有脑裂的风险。而 ECMP 的方式需要了解动态路由协议, LVS 和交换机均需要较复杂配置;交换机的 HASH 算法一般比较简单, 增加删除节点会造成 HASH 重分布, 可能导致当前 TCP 连接全部中断;部分交换机的 ECMP 在处理分片包时会有 Bug ,说起来心中满满的都是血泪呀。如图: UCloud Vortex 负载均衡器的设计理念用户使用负载均衡器最重要的需求是“ High Availability ”和“ Scalability ”, Vorte x 的架构设计重心就是满足用户