Spring Boot web应用程序中的多个REST调用超时

Question

我创建了一个Spring Boot（1.4.2）REST应用程序。其中一个@RestController方法需要调用第三方API REST操作（RestOp1），该操作返回100-250条记录。对于RestOp1返回的每个记录，在同一方法中，必须调用同一第三方API（RestOp2）的另一个REST操作。我的第一次尝试涉及使用基于大小为100的固定html" target="_blank">线程池的Controller类级别ExecutorService，以及返回对应于RestOp2响应的记录的Callable：

// Executor thread pool - declared and initialized at class level
ExecutorService executor = Executors.newFixedThreadPool(100);

// Get records from RestOp1
ResponseEntity<RestOp1ResObj[]> restOp1ResObjList
  = this.restTemplate.exchange(url1, HttpMethod.GET, httpEntity, RestOp1ResObj[].class);
RestOp1ResObj[] records = restOp1ResObjList.getBody();

// Instantiate a list of futures (to call RestOp2 for each record)
List<Future<RestOp2ResObj>> futureList = new ArrayList<>();

// Iterate through the array of records and call RestOp2 in a concurrent manner, using Callables.
for (int count=0; count<records.length; count++) {

  Future<RestOp2ResObj> future = this.executorService.submit(new Callable<RestOp2ResObj>() {

    @Override
    public RestOp2ResObj call() throws Exception {
      return this.restTemplate.exchange(url2, HttpMethod.GET, httpEntity, RestOp2Obj.class);
    }
  };

  futureList.add(future);
});

// Iterate list of futures and fetch response from RestOp2 for each
// record. Build a final response and send back to the client.
for (int count=0; count<futureList.size(); count++) {

  RestOp2ResObj response = futureList.get(count).get();
  // use above response to build a final response for all the records.
}

至少可以说，上述代码的性能非常糟糕。RestOp1调用（仅调用一次）的响应时间约为2.5秒，RestOp2调用（为每条记录调用）的响应时间约为1.5秒。但是代码执行时间在20-30秒之间，而不是预期的5-6秒！我是不是错过了一些基本的东西？

Answer 1

你的问题包括两部分：

1. 多个API异步回调

这两个部分是相关的，因为您必须处理每个调用的超时。

您可以考虑使用Spring Cloud（基于Spring引导），并使用一些基于OSSNetflix栈的开箱即用解决方案。

第一个（超时）应该是基于虚拟客户端的断路器hystrix

第二个（多个请求）这是一个架构问题，使用本机执行器不是一个好主意，因为它不会扩展，并且有巨大的维护成本。您可以使用Spring异步方法，这样会有更好的结果，并且完全符合Spring。

希望这会有所帮助。

Answer 2

您正在呼叫的服务速度是否足以每秒处理这么多请求？

RestService有一个异步版本，称为AsyncRestService。你为什么不用这个？

我大概会这样：

    AsyncRestTemplate asyncRestTemplate = new AsyncRestTemplate(new ConcurrentTaskExecutor(Executors.newFixedThreadPool(100)));

    asyncRestTemplate.exchange("http://www.example.com/myurl", HttpMethod.GET, new HttpEntity<>("message"), String.class)
            .addCallback(new ListenableFutureCallback<ResponseEntity<String>>() {
                @Override
                public void onSuccess(ResponseEntity<String> result) {
                    //TODO: Add real response handling

                    System.out.println(result);
                }

                @Override
                public void onFailure(Throwable ex) {
                    //TODO: Add real logging solution

                    ex.printStackTrace();
                }
            });