一个线程池的多个CompletionService

Question

我正在开发一个Java服务器应用程序，其一般体系结构如下：

• 客户端向服务器发出RPC请求
• 我相信RPC服务器（gRPC）有自己的线程池来处理请求
• 请求将立即插入线程池1以进行更多处理
• 一种特定的请求类型，我们称之为request r，需要并行运行几个异步任务，判断结果以形成将返回给客户端的共识。这些任务的运行时间要长一些，所以我使用单独的线程池2来处理这些请求。重要的是，每个请求r将需要运行相同的2-3个异步任务。因此，线程池2服务于当前正在执行的所有请求R。但是，请求r应该只能看到和检索属于它的异步任务。
• 为此，在每个传入的请求R时，当它位于线程池1中时，它将为该请求创建一个新的CompletionService，由线程池2支持。它将提交2-3个异步任务，并检索结果。这些请求应该与线程池2中可能运行的其他请求严格隔离。
• 我的问题：
  • 首先，Java的CompletionService是孤立的吗？在检查了Javadocs之后，我找不到这方面的好文档。换句话说，如果两个或多个CompletionService由同一个线程池支持，那么它们中的任何一个是否有可能获得属于另一个CompletionService的未来？
  • 其次，为每个请求创建如此多的CompletionService是否是一种不好的做法？有没有更好的办法来处理这件事？当然，为每个请求创建一个新线程池不是一个好主意，那么是否有更规范/正确的方法在CompletionService中隔离期货呢？

  提前感谢你的帮助。任何有用的文档或检查的指针都将非常感谢。

  代码，供参考，尽管很琐碎：

  public static final ExecutorService THREAD_POOL_2 =
          new ThreadPoolExecutor(16, 64, 60, TimeUnit.SECONDS, new LinkedBlockingQueue<>());
  
  // Gets created to handle a RequestR, RequestRHandler is run in Thread Pool 1
  public class RequestRHandler {
  
      CompletionService<String> cs;
  
      RequestRHandler() {
          cs = new ExecutorCompletionService<>(THREAD_POOL_2);
      }
  
      String execute() {
          cs.submit(asyncTask1);
          cs.submit(asyncTask2);
          cs.submit(asyncTask3);
  
         // Lets say asyncTask3 completes first
        Future<String> asyncTask3Result = cs.take();
  
        // asyncTask3 result indicates asyncTask1 & asyncTask2 results don't matter, cancel them
        // without checking result
  
  
        // Cancels all futures, I track all futures submitted within this request and cancel them,
        // so it shouldn't affect any other requests in the TP 2 pool
        cancelAllFutures(cs);
  
  
        return asyncTask3Result.get();  
      }
  
  
  }
  
  

Answer 1

首先，Java的CompletionService是孤立的吗？

这不是garanteed，因为它是一个接口，所以实现决定了这一点。但是由于唯一的实现是ExecutorCompletionService，我只能说答案是：是的。ExecutorCompletionService的每个实例在内部都有一个BlockingQueue，完成的任务在其中排队。实际上，当您调用服务的take时，它只是通过调用队列的take将调用传递给队列。每个提交的任务都由另一个对象包装，当任务完成时，该对象将任务放入队列。因此，每个实例都独立于其他实例来管理它提交的任务。

其次，为每个请求创建如此多的CompletionService是否是一种不好的做法？

我会说没事的。CompletionService只不过是执行器的一个很薄的包装器。您必须忍受“开销”（任务的内部blockingqueue和包装器实例），但开销很小，而且您可能从中获得的开销远远超过成本。你可以问你是否只需要一个2到3个任务，但这有点取决于任务。在这一点上，这是一个关于CompletionService是否值得的问题，所以这取决于您的决定，因为它超出了您的问题范围。