实现HTTP连接池的正确方法

Question

我使用Apache HTTP客户端在我的REST API调用到某些Web服务的连池。

奇怪的是，尽管我使用了HTTP连接池，但我的性能并没有任何提高。

我正在使用Apache HTTP客户端连接到我的web服务，其中的代码如下所示：

PoolingHttpClientConnectionManager cm = new PoolingHttpClientConnectionManager();

cm.setMaxTotal(200);

cm.setDefaultMaxPerRoute(20);

HttpHost host = new HttpHost("abc.com", 80);
cm.setMaxPerRoute(new HttpRoute(host), 50);

CloseableHttpClient httpClient = HttpClients.custom()
        .setConnectionManager(cm)
        .build();

我使用Spring的RestTemplate来包装使用Spring的HttpComponents客户端HttpRequestFactory实现Apache的HttpClient。

但是即使我不使用连池，即使用Spring的SimpleClientHttp刚需工厂，我也没有性能优势。

我的连接仍然需要相同的时间才能完成。

我所做的是实现HTTP连接池的正确方法吗？我做错什么了吗？

请让我知道，如果任何进一步的信息需要从我这边。




Answer 1

你的配置似乎是正确的。您可以使用多线程来使用系统的资源来获得性能。

    HttpGet get = new HttpGet("http://www.codersjargon.com");

    PoolingHttpClientConnectionManager connManager 
      = new PoolingHttpClientConnectionManager();

    CloseableHttpClient client = HttpClients.custom().
        setConnectionManager(connManager).build();

     MultiHttpClientConnThread thread1 = new MultiHttpClientConnThread(client, get);
     MultiHttpClientConnThread thread2 = new MultiHttpClientConnThread(client, get);
     MultiHttpClientConnThread thread3 = new MultiHttpClientConnThread(client, get); 
     thread1.start();
     thread2.start();
     thread3.start(); 
     thread1.join(); 
     thread2.join();
     thread3.join();

Answer 2

我相信您正在正确设置HttpClient和池管理器。

我的实现与使用HttpClients有一点不同。custom（），我正在使用HttpClientBuilder。create（），但随后具有与您相同的方法调用。根据另一个堆栈溢出的答案，这不会有什么区别。

我以前在Spring应用程序中使用过这种配置，并且有很好的好处。我想知道反应是否发生得足够快，以至于你没有看到很大的好处？我唯一能想到的另一件事是，如果可能的RestTem板没有正确配置。

Answer 3

请注意HTTPhtml" target="_blank">客户端池的工作方式，它可能会在短时间内提高性能。检查以下分析：

来自PoollightTPClientConnectionManager javadocs

在版本4.4中更改了对过时连接的处理。以前，代码会在重新使用之前默认检查每个连接。代码现在仅在上次使用连接后的时间超过已设置的超时时才检查连接。默认超时设置为2000ms

从池性能的角度来看，这意味着，只要管理器在默认情况下认为某个特定路由在2秒钟内处于“活动”状态，就可以重用该路由的连接
在2秒钟的非活动状态后，到该路由的连接将被视为过时并被丢弃，因此在下次请求该路由时将导致连接初始化惩罚。

换句话说，开箱即用，池在2秒内提高了第一个连接之后的性能。重型航线受益最大。

作为一个简单的测试，将池大小设置为一个小值，如最大5。在linux上发送5个请求并检查到该路由的已建立连接数

watch"netstat-ant|grep

您应该看到5个连接。等待10或20秒，然后向同一路由发送2个请求，您应该看到这5个连接已关闭，2个新连接已创建。通过调试日志记录也可以观察到这一点。这里有一篇好文章作为参考
http日志上的Apache官方文档。