WebSocket连接负载平衡的实现

WebSocket连接负载平衡的实现

胡东升

四川九洲技师学校四川绵阳621000

摘要：负载平衡问题一直是大型系统管理中的一个热点问题。负载平衡的目的是优化资源的使用，最大限度地提高吞吐量，最大限度地减少响应时间，并避免任何单一节点的资源过载。所以，要解决这个问题，至关重要的是系统性能的平衡。在本文中，我将探讨三种解决方案以便最终能实现负载平衡。

关键词：负载平衡websocket连接弹性负载均衡器

一、ELB(ElasticLoadBalancer)途径

实现负载均衡最简单的方法就是使用AWS（AmazonWebServices即亚马逊云服务）提供的弹性负载平衡器ELB(ElasticLoadBalancer)。它能使任何类型的TCP连接包括WebSockets连接实现负载平衡。

这种方法的特点是：

AutomaticfailoverofLB——负载自动故障转移；Autoscalingofloadbalancednodes——负载平衡节点的自动缩放；Extremelyeasysetup——非常简单的设置。

在大多数情况下，这都是一个很好的解决方案，除非疯狂增长的负载超出了系统的承载范围。在这种极端情况下，ELB变得太慢以至于不能建立新的连接，那么，我们就需要新的解决方案。

二、负载平衡器软件

我们可以采用HAProxy作为一个负载平衡器软件来实现负载平衡。但要使HAProxy工作正确，我们应牢记端口限制问题。使用HAProxy处理超过65K的连接要通过下面的步骤：

1.创建一组私有IP地址。

选择AmazonInstance→Actions→Networking→ManagePrivateIPAddresses，添加3个IP地址：192.168.1.1，192.168.1.2，192.168.1.3（要记住所有添加的IP地址和真正的application服务器应在同一子网内）。

2.连接到HAProxy的实例。

通过SSH运行以下命令：

$>ifconfigeth0:1192.168.1.1

$>ifconfigeth0:2192.168.1.2

$>ifconfigeth0:3192.168.1.3

这将在实例中添加3个虚拟网络接口。

3.配置HAProxy。

我们看到，现在HAProxy可以处理超过65536的WebSocket连接，连接数量的限制通过添加虚拟网络接口而非常容易突破了，而且它可以快速建立新的连接。

以上已经证明了这种方法是可行的，但它也有以下缺点：FailoverHAProxy的设置要通过手动完成，相对复杂；当要添加一个新的Erlang节点，不得不重新配置HAProxy。虽然有这些缺点，但这是一个非常简单实用的解决方案，而且将此方法扩展，与系统其他功能结合，就能形成一套自定义的方案。

三、自定义的方案

以下图表显示了我设计的系统架构及运行流程。

系统中有一个JavaScript的客户端应用程序，一个认证的应用程序，负责对用户的授权，一个以Erlangapplication为主要功能的应用程序。其流程如下：

1.客户向授权服务应用程序进行HTTP请求，试图获得凭据。

2.生成令牌并将其通过HTTP请求发送到Erlang集群。

3.Erlang程序确认收到令牌，发送HTTP响应确认授权的应用程序。

4.授权应用程序发送HTTP响应到客户端的，此响应包括生成的令牌。

5.客户端使用令牌通过HAProxy负载平衡器Erlang程序建立WebSocket连接。

这就是系统运行的架构及基本流程，具体实现还可以添加一个简单的模块使Erlang应用程序能跟踪每个Erlang节点的WebSocket连接数。由于Erlang的“分布式”的天然属性，每个节点都可以知道其它节点的连接数量。

因此，可以选择一个较少的连接节点，把这个节点的公共IP地址发回授权服务应用程序，授权服务应用程序发送此IP地址和令牌给客户端，客户端以此IP地址和收到的令牌建立连接。以下是新的设计图表：

现在就我们可以实现：摆脱WS负载平衡器，使系统更简单；添加Erlang节点时不需要重新配置系统；在Erlang节点间连接分布均匀。