应用间通信
连接多个应用程序实例
虽然Spring Cloud Stream使个人Spring Boot应用程序轻松连接到消息传递系统,但是Spring Cloud Stream的典型场景是创建多应用程序管道,其中微服务应用程序将数据发送给彼此。您可以通过将相邻应用程序的输入和输出目标相关联来实现此场景。
假设设计要求时间源应用程序将数据发送到日志接收应用程序,则可以在两个应用程序中使用名为ticktock
的公共目标进行绑定。
时间来源(具有频道名称output
)将设置以下属性:
spring.cloud.stream.bindings.output.destination=ticktock
日志接收器(通道名称为input
)将设置以下属性:
spring.cloud.stream.bindings.input.destination=ticktock
实例索引和实例计数
当扩展Spring Cloud Stream应用程序时,每个实例都可以接收有关同一个应用程序的其他实例数量以及自己的实例索引的信息。Spring Cloud Stream通过spring.cloud.stream.instanceCount
和spring.cloud.stream.instanceIndex
属性执行此操作。例如,如果HDFS宿应用程序有三个实例,则所有三个实例将spring.cloud.stream.instanceCount
设置为3
,并且各个应用程序将spring.cloud.stream.instanceIndex
设置为0
,1
和2
。
当通过Spring Cloud数据流部署Spring Cloud Stream应用程序时,这些属性将自动配置; 当Spring Cloud Stream应用程序独立启动时,必须正确设置这些属性。默认情况下,spring.cloud.stream.instanceCount
为1
,spring.cloud.stream.instanceIndex
为0
。
在放大的情况下,这两个属性的正确配置对于解决分区行为(见下文)一般很重要,并且某些绑定器(例如,Kafka binder)总是需要这两个属性,以确保该数据在多个消费者实例之间正确分割。
分区
配置输出绑定进行分区
输出绑定被配置为通过设置其唯一的一个partitionKeyExpression
或partitionKeyExtractorClass
属性以及其partitionCount
属性来发送分区数据。例如,以下是一个有效和典型的配置:
spring.cloud.stream.bindings.output.producer.partitionKeyExpression=payload.id spring.cloud.stream.bindings.output.producer.partitionCount=5
基于上述示例配置,使用以下逻辑将数据发送到目标分区。
基于partitionKeyExpression
,为发送到分区输出通道的每个消息计算分区密钥的值。partitionKeyExpression
是一个Spel表达式,它根据出站消息进行评估,以提取分区键。
如果SpEL表达式不足以满足您的需要,您可以通过将属性partitionKeyExtractorClass
设置为实现org.springframework.cloud.stream.binder.PartitionKeyExtractorStrategy
接口的类来计算分区键值。虽然Spel表达式通常足够,但更复杂的情况可能会使用自定义实现策略。在这种情况下,属性“partitionKeyExtractorClass”可以设置如下:
spring.cloud.stream.bindings.output.producer.partitionKeyExtractorClass=com.example.MyKeyExtractor spring.cloud.stream.bindings.output.producer.partitionCount=5
一旦计算了消息密钥,分区选择过程将确定目标分区为0
和partitionCount - 1
之间的值。在大多数情况下,默认计算基于公式key.hashCode() % partitionCount
。这可以通过设置要针对'key'(通过partitionSelectorExpression
属性)进行评估的Spel表达式或通过设置org.springframework.cloud.stream.binder.PartitionSelectorStrategy
实现(通过partitionSelectorClass
属性))进行自定义。
“partitionSelectorExpression”和“partitionSelectorClass”的绑定级属性可以类似于上述示例中指定的“partitionKeyExpression”和“partitionKeyExtractorClass”属性的类型。可以为更高级的场景配置其他属性,如以下部分所述。
Spring - 管理的自定义PartitionKeyExtractorClass
实现
在上面的示例中,MyKeyExtractor
之类的自定义策略由Spring Cloud Stream直接实例化。在某些情况下,必须将这样的自定义策略实现创建为Spring bean,以便能够由Spring管理,以便它可以执行依赖注入,属性绑定等。可以通过将其配置为应用程序上下文中的@Bean,并使用完全限定类名作为bean的名称,如以下示例所示。
@Bean(name="com.example.MyKeyExtractor") public MyKeyExtractor extractor() { return new MyKeyExtractor(); }
作为Spring bean,自定义策略从Spring bean的完整生命周期中受益。例如,如果实现需要直接访问应用程序上下文,则可以实现“ApplicationContextAware”。
配置输入绑定进行分区
输入绑定(通道名称为input
)被配置为通过在应用程序本身设置其partitioned
属性以及instanceIndex
和instanceCount
属性来接收分区数据,如以下示例:
spring.cloud.stream.bindings.input.consumer.partitioned=true spring.cloud.stream.instanceIndex=3 spring.cloud.stream.instanceCount=5
instanceCount
值表示数据需要分区的应用程序实例的总数,instanceIndex
必须是0
和instanceCount - 1
之间的多个实例的唯一值。实例索引帮助每个应用程序实例识别从其接收数据的唯一分区(或者在Kafka的分区集合的情况下)。重要的是正确设置两个值,以确保所有数据都被使用,并且应用程序实例接收到互斥数据集。
虽然使用多个实例进行分区数据处理的场景可能会在独立情况下进行复杂化,但是通过将输入和输出值正确填充并依赖于运行时基础架构,Spring Cloud数据流可以显着简化流程。提供有关实例索引和实例计数的信息。