Apache Http客户端和负载平衡器

Question

在花了几个小时阅读Http客户机文档和源代码后，我决定在这里寻求帮助。

我有一个使用循环算法的负载均衡服务器

---

我们的客户机使用HttpClient将请求定向到负载平衡器服务器，负载平衡器服务器反过来将请求转发到相应的RESTServer。

现在，ApacheHttpClient在默认情况下创建了一个连接池（默认情况下每个路由2个）。由于我使用的是Http v1，所以默认情况下，这些连接是持久连接。1和我的服务器正在发送Connection:Keep Alive标头。

因此，问题在于，由于HttpClient创建了这种持久连接，因此这些连接不再受均衡器级别的轮换算法的约束。它们每次总是访问同一台服务器。

这造成了两个问题：

1. 我可以看到，有时一个或多个平衡服务器的流量过载，而一个或多个其他服务器处于空闲状态；和
2. 即使我从平衡器中取出一台REST服务器，它仍然会在持久连接处于活动状态时接收请求

这绝对不是我们想要的行为。

我想我可以在响应中强制执行连接：close头，或者在没有连接池或无连接重用策略的情况下运行HttpClient。但HttpClient的文档指出，使用池背后的想法是通过避免每次打开套接字以及执行所有TPC握手和相关操作来提高性能。因此，我必须得出结论，使用连接池有助于提高应用程序的性能。

所以我的问题是，有没有一种方法可以在负载平衡器中使用持久连接，或者在这种情况下我是被迫使用非持久连接的？

我想要重用连接所带来的性能，但我希望它们能够实现适当的负载平衡。如果可能的话，我有没有想过如何用Apache Http客户端配置这个场景？




Answer 1

1 to@mp911de答案

通过将持久连接的总生存时间限制在短时间内（比如15秒），也可以使场景1和场景3工作得相当好。通过这种方式，连接的寿命足够长，可以在活动期间重复使用，而在相对不活动期间，连接的寿命足够短，可以消失。

Answer 2

您的问题可能与您的负载平衡器配置和负载平衡的风格更相关。有几种方法：

1. HTTP重定向

在场景1和场景3中，您没有机会使用持久连接。如果负载平衡器像反向代理一样工作，那么可能有一种方法可以通过平衡实现持久连接。“哑”平衡器，如SMTP或LDAP，会根据每个TCP连接选择目标，而不是基于请求。

例如，带有平衡器模块的Apache HTTPd服务器（请参阅http://httpd.apache.org/docs/2.2/mod/mod_proxy_balancer.html)可以将每个请求（即使在持久连接上）分派到不同的服务器。

还要检查您没有收到可能是会话持久性的平衡器cookie，以便原因不是持久性连接，而是平衡器cookie。

马克