当前位置: 首页 > 知识库问答 >
问题:

GRPC客户端阻塞与异步存根建议

商飞龙
2023-03-14

我们目前正在使用grpc starter包实现一个高吞吐量的spring boot应用程序https://github.com/yidongnan/grpc-spring-boot-starter,这是一个基于客户机-服务器的应用程序。我们正在将遗留的RESTendpointCRUD操作迁移到GRPC。为了获得此服务的最佳设计,我们需要以下问题的帮助:

>

  • 如果单个不可变GRPC阻塞存根客户端实例被多个线程访问,这是否是阻塞调用,即在任何给定时间只执行一个RPC调用。

    根据google GRPC IO文档,建议不要使用阻塞存根来并行化RPC调用。这突出显示了对同一客户机对象进行多个RPC调用的情况。https://grpc.io/docs/guides/performance/

    阻塞存根是否会在每次调用时使用新的TCP连接,或者重复使用相同的TCP连接。

  • 共有1个答案

    王涵育
    2023-03-14

    如果多个线程访问单个不可变GRPC阻塞存根客户端实例,这将是一个阻塞调用,即在任何给定时间只执行一个RPC调用。

    不,RPC将并行进行。存根是通道周围的薄包装器,通道将同时执行多个RPC。

    根据google GRPC IO文档,建议不要使用阻塞存根来并行化RPC调用。

    这是因为阻塞是一个扩展问题。每个阻塞RPC消耗一个线程,在Java中线程非常大(~1MB)。Async还可以减少大规模的上下文切换开销。gRPC Java在阻塞和异步方面同样有效。

    请注意,这通常意味着您可以不必担心任何低规模的RPC使用阻塞。您可以选择仅在同时有多(100)个未完成的RPC上使用异步或未来存根。

    阻塞存根是否会在每次调用时使用新的TCP连接,或者重复使用相同的TCP连接。

    TCP连接将被重新使用。gRPC Java对阻塞和异步使用相同的通道API。因此,唯一的区别是您看到的API。

     类似资料:
    • 本文向大家介绍详解socket阻塞与非阻塞,同步与异步、I/O模型,包括了详解socket阻塞与非阻塞,同步与异步、I/O模型的使用技巧和注意事项,需要的朋友参考一下 socket阻塞与非阻塞,同步与异步 1. 概念理解 在进行网络编程时,我们常常见到同步(Sync)/异步(Async),阻塞(Block)/非阻塞(Unblock)四种调用方式: 同步/异步主要针对C端: 同步: 所谓同步,就是在

    • C Async描述了如何创建一个异步服务器和一个相应的异步客户机来与之通信。我已经在微软ViualStudio中创建了这个。 我现在需要一个java客户端说话的C服务器-我无法找到一个Java等效的客户端(到C)与C通信。 任何指点都将不胜感激

    • 我正在尝试将我的应用程序从apache http组件客户端切换到异步版本。目标是能够处理更多的出站连接(在不久的将来)。请求的负载非常小( 与同步版本的apache超文本传输协议客户端,通过把大约200请求/秒。平均响应时间约为100ms/请求。我在最大180ms后中止请求。 切换到异步后,响应时间增加了20ms/请求。吞吐量也降低到160/秒。中止的请求数量增加了一倍。 这是在对应用程序进行了很

    • 我认为下面的流量链将通过事件循环放置/执行(像JS)。因此,运行下面的代码将首先打印阻塞循环&然后将执行通量链。 但是,整个通量总是先执行,然后才移动到循环。[我确实有一些语句正在阻塞。但是有两个阶段] 当我们使用reactor时,通过使用一些调度程序来实现异步/非阻塞行为的唯一方法? 如果我不使用任何调度器,并让代码使用当前线程执行,那么即使对于IO密集型应用程序,使用WebFlux而不是Spr

    • 本文向大家介绍请你说一下阻塞,非阻塞,同步,异步相关面试题,主要包含被问及请你说一下阻塞,非阻塞,同步,异步时的应答技巧和注意事项,需要的朋友参考一下 参考回答: 阻塞和非阻塞:调用者在事件没有发生的时候,一直在等待事件发生,不能去处理别的任务这是阻塞。调用者在事件没有发生的时候,可以去处理别的任务这是非阻塞。 同步和异步:调用者必须循环自去查看事件有没有发生,这种情况是同步。调用者不用自己去查看

    • 我创建了一个用C编写的gRPC异步客户端,它使用完成队列向服务器发出流式和一元请求。 在客户机类的析构函数中,调用了完成队列的方法,然后我想我可以调用来耗尽队列并获取挂起的标记,但对的调用会阻止一切。 挂起的标签是需要的,因为它们是用创建的对象,必须删除以避免泄漏。 对异步客户机使用的队列进行排空的正确方法是什么?