微型背压

Question

我们正在寻找限制Micronaut 2.0.1公开的HTTPendpoint接受的并发连接数的最佳方法。endpoint接受图像文件，将其写入磁盘并创建缩略图。由于请求太多，我们的内存不足。

到目前为止，我们发现的是Netty线程池的设置。不过，我们怀疑这些措施是否能让我们实施一个具体的限制。它们似乎更多地与Netty事件循环线程池有关？

是否有一种行之有效的方法来实现Micronaut和Netty的背压？

Answer 1

没有现成的配置可以像您希望的那样强制执行并发限制。您可能希望实现一个HttpServletFilter，它跟踪当前正在执行的请求的数量，并在数量超过配置的限制时以status429 to Many requests响应。类似于下面代码的东西应该可以工作（注意：未测试）

​@Override
​public Publisher<MutableHttpResponse<?>> doFilter(HttpRequest<?> request, ServerFilterChain chain) {
       ​return Flowable.fromCallable(() -> atomicRequestCounter.incrementAndGet())
                      .subscribeOn(Schedulers.computation())
                      .flatMap(numConcurrentRequests -> {
                          if (numConcurrentRequests > MAX_ALLOWED_CONCURRENCY) {
                              return Flowable.just(HttpResponse.status(HttpStatus.TOO_MANY_REQUESTS));
                          } else {
                              return chain.proceed(request);
                          }
                       })
                       ​.doOnNext(res -> atomicRequestCounter.decrementAndGet());
}

如果您真的想将其插入Netty层，请查看ChannelPipelineCustomizer。您可以应用与上述相同的原则，并将处理程序添加到跟踪并发连接的管道中。请注意，基于过滤器的方法的优点是，它允许您强制执行对特定URI/资源的限制，而如果在网络级别强制执行，则会影响整个应用程序。