负载均衡的原理说明.doc

. .
. v .
大家都知道一台效劳器的处理能力，主要受限于效劳器自身的可扩展硬件能力。所以，在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通效劳器组成一个系统，来完成高并发的请求处理任务。
之前负载均衡只能通过DNS来实现，1996年之后，出现了新的网络负载均衡技术。通过设置虚拟效劳地址〔IP〕，将位于同一地域〔Region〕的多台效劳器虚拟成一个高性能、高可用的应用效劳池；再根据应用指定的方式，将来自客户端的网络请求分发到效劳器池中。网络负载均衡会检查效劳器池中后端效劳器的安康状态，自动隔离异常状态的后端效劳器，从而解决了单台后端效劳器的单点问题，同时提高了应用的整体效劳能力。
网络负载均衡主要有硬件与软件两种实现方式，主流负载均衡解决方案中，硬件厂商以F5为代表目前市场占有率超过50%，软件主要为NGINX与LVS。但是，无论硬件或软件实现，都逃不出基于四层交互技术的"转发〞或基于七层协议的"代理〞这两种方式。四层的转发模式通常性能会更好，但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中，这两种方式会同时存在。
2007年F5提出了ADC〔Applicationdeliverycontroller〕的概念为传统的负载均衡器增加了大量的功能，常用的有：SSL卸载、压缩优化和TCP连接优化。NGINX也支持很多ADC的特性，但F5的中高端型号会通过硬件加速卡来实现SSL卸载、压缩优化这一类CPU密集型的操作，从而可以提供更好的性能。
F5推出ADC以后，各种各样的功能有很多，但其实我们最常用的也就几种。这里我也简单的总结了一下，并和LVS、Nginx比照了一下。
. .
. v .
SSL卸载和压缩优化，主要是将CPU密集型的加解密和压缩操作移到负载均衡器上进展；TCP连接优化主要指的是用户和负载均衡器短连接的同时，负载均衡器和后端效劳器建立长连接。
不过我们本次主要介绍四层负载均衡，所以这些高级ADC功能不会涉及到。
F5的硬件负载均衡产品又分单机BigIP系列和集群VISRION系列，都是X86架构，配合自研的TMOS〔TrafficManagementOperatingSystem〕，再加上硬件加速卡〔Cavium提供〕处理SSL和压缩等CPU密集型操作。
L4CPS：四层每秒新建连接数。测试的时候一般采用TCP短连接，每次请求128字节。表达CPU性能，最重要的性能指标，没有之一。
L4最大并发连接数：表达内存大小
L7RPS：七层每秒请求数。测试时每连接10个128字节HTTP请求。主要表达HTTP协议栈性能
这些性能指标实际上就是一个负载均衡器最关键的指标了。大家如有采购硬件负载均衡器一定要看这个。
有很多小牌子的硬件负载均