使用 RabbitMQ Stream 插件
2.4 版本引入了对 RabbitMQ Stream 插件 的 {rabbitmq-github}/rabbitmq-stream-java-client[RabbitMQ Stream 插件 Java 客户端] 的初步支持。
-
RabbitStreamTemplate
-
StreamListenerContainer
将 spring-rabbit-stream
依赖项添加到您的项目中:
<dependency>
<groupId>org.springframework.amqp</groupId>
<artifactId>spring-rabbit-stream</artifactId>
<version>{project-version}</version>
</dependency>
compile 'org.springframework.amqp:spring-rabbit-stream:{project-version}'
您可以像往常一样,使用 RabbitAdmin
bean 来配置队列,并使用 QueueBuilder.stream()
方法来指定队列类型。
例如:
@Bean
Queue stream() {
return QueueBuilder.durable("stream.queue1")
.stream()
.build();
}
然而,这只有在您也使用非流组件(例如 SimpleMessageListenerContainer
或 DirectMessageListenerContainer
)时才有效,因为当 AMQP 连接打开时,admin 会触发声明定义的 bean。
如果您的应用程序只使用流组件,或者您希望使用高级流配置功能,您应该配置一个 StreamAdmin
:
@Bean
StreamAdmin streamAdmin(Environment env) {
return new StreamAdmin(env, sc -> {
sc.stream("stream.queue1").maxAge(Duration.ofHours(2)).create();
sc.stream("stream.queue2").create();
});
}
有关 StreamCreator
的更多信息,请参阅 RabbitMQ 文档。
发送消息
RabbitStreamTemplate
提供了 RabbitTemplate
(AMQP) 功能的一个子集。
public interface RabbitStreamOperations extends AutoCloseable {
CompletableFuture<Boolean> send(Message message);
CompletableFuture<Boolean> convertAndSend(Object message);
CompletableFuture<Boolean> convertAndSend(Object message, @Nullable MessagePostProcessor mpp);
CompletableFuture<Boolean> send(com.rabbitmq.stream.Message message);
MessageBuilder messageBuilder();
MessageConverter messageConverter();
StreamMessageConverter streamMessageConverter();
@Override
void close() throws AmqpException;
}
RabbitStreamTemplate
实现具有以下构造函数和属性:
public RabbitStreamTemplate(Environment environment, String streamName) {
}
public void setMessageConverter(MessageConverter messageConverter) {
}
public void setStreamConverter(StreamMessageConverter streamConverter) {
}
public synchronized void setProducerCustomizer(ProducerCustomizer producerCustomizer) {
}
MessageConverter
用于 convertAndSend
方法中,将对象转换为 Spring AMQP Message
。
StreamMessageConverter
用于将 Spring AMQP Message
转换为原生流 Message
。
您也可以直接发送原生流 Message
;messageBuilder()
方法提供了访问 Producer
的消息构建器。
ProducerCustomizer
提供了一种在构建生产者之前自定义生产者的机制。
有关自定义 Environment
和 Producer
的信息,请参阅 {rabbitmq-stream-docs}[Java 客户端文档]。
接收消息
StreamListenerContainer
(以及使用 @RabbitListener
时的 StreamRabbitListenerContainerFactory
)提供了异步消息接收。
监听器容器需要一个 Environment
以及一个流名称。
您可以使用经典的 MessageListener
接收 Spring AMQP Message
,也可以使用新接口接收原生流 Message
:
public interface StreamMessageListener extends MessageListener {
void onStreamMessage(Message message, Context context);
}
有关支持的属性的信息,请参见 消息监听器容器配置。
与模板类似,容器具有 ConsumerCustomizer
属性。
有关自定义 Environment
和 Consumer
的信息,请参阅 {rabbitmq-stream-docs}[Java 客户端文档]。
使用 @RabbitListener
时,配置 StreamRabbitListenerContainerFactory
;此时,大多数 @RabbitListener
属性(concurrency
等)都会被忽略。只支持 id
、queues
、autoStartup
和 containerFactory
。
此外,queues
只能包含一个流名称。
示例
@Bean
RabbitStreamTemplate streamTemplate(Environment env) {
RabbitStreamTemplate template = new RabbitStreamTemplate(env, "test.stream.queue1");
template.setProducerCustomizer((name, builder) -> builder.name("test"));
return template;
}
@Bean
RabbitListenerContainerFactory<StreamListenerContainer> rabbitListenerContainerFactory(Environment env) {
return new StreamRabbitListenerContainerFactory(env);
}
@RabbitListener(queues = "test.stream.queue1")
void listen(String in) {
...
}
@Bean
RabbitListenerContainerFactory<StreamListenerContainer> nativeFactory(Environment env) {
StreamRabbitListenerContainerFactory factory = new StreamRabbitListenerContainerFactory(env);
factory.setNativeListener(true);
factory.setConsumerCustomizer((id, builder) -> {
builder.name("myConsumer")
.offset(OffsetSpecification.first())
.manualTrackingStrategy();
});
return factory;
}
@RabbitListener(id = "test", queues = "test.stream.queue2", containerFactory = "nativeFactory")
void nativeMsg(Message in, Context context) {
...
context.storeOffset();
}
@Bean
Queue stream() {
return QueueBuilder.durable("test.stream.queue1")
.stream()
.build();
}
@Bean
Queue stream() {
return QueueBuilder.durable("test.stream.queue2")
.stream()
.build();
}
2.4.5 版本为 StreamListenerContainer
(及其工厂)添加了 adviceChain
属性。
还提供了一个新的工厂 bean,用于创建一个无状态重试拦截器,并带有一个可选的 StreamMessageRecoverer
,用于消费原始流消息时使用。
@Bean
public StreamRetryOperationsInterceptorFactoryBean sfb(RetryTemplate retryTemplate) {
StreamRetryOperationsInterceptorFactoryBean rfb =
new StreamRetryOperationsInterceptorFactoryBean();
rfb.setRetryOperations(retryTemplate);
rfb.setStreamMessageRecoverer((msg, context, throwable) -> {
...
});
return rfb;
}
此容器不支持有状态重试。
超级流
超级流是分区流的抽象概念,通过将多个流队列绑定到具有参数 x-super-stream: true
的交换机来实现。
资源调配
为了方便起见,可以通过定义一个 SuperStream
类型的 bean 来配置超级流。
@Bean
SuperStream superStream() {
return new SuperStream("my.super.stream", 3);
}
RabbitAdmin
会检测到此 bean 并声明交换机 (my.super.stream
) 和 3 个队列(分区)—— my.super-stream-n
,其中 n
是 0
、1
、2
,并以等于 n
的路由键绑定。
如果您还希望通过 AMQP 发布到交换机,您可以提供自定义路由键:
@Bean
SuperStream superStream() {
return new SuperStream("my.super.stream", 3, (q, i) -> IntStream.range(0, i)
.mapToObj(j -> "rk-" + j)
.collect(Collectors.toList()));
}
键的数量必须等于分区的数量。
生产到超级流
您必须将 superStreamRoutingFunction
添加到 RabbitStreamTemplate
:
@Bean
RabbitStreamTemplate streamTemplate(Environment env) {
RabbitStreamTemplate template = new RabbitStreamTemplate(env, "stream.queue1");
template.setSuperStreamRouting(message -> {
// some logic to return a String for the client's hashing algorithm
});
return template;
}
您也可以通过 AMQP 使用 RabbitTemplate
发布。
使用单一活跃消费者消费超级流
在监听器容器上调用 superStream
方法以启用超级流上的单一活跃消费者。
@Bean
StreamListenerContainer container(Environment env, String name) {
StreamListenerContainer container = new StreamListenerContainer(env);
container.superStream("ss.sac", "myConsumer", 3); // concurrency = 3
container.setupMessageListener(msg -> {
...
});
container.setConsumerCustomizer((id, builder) -> builder.offset(OffsetSpecification.last()));
return container;
}
目前,当并发数大于 1 时,实际并发数由 Environment
进一步控制;要实现完全并发,请将环境的 maxConsumersByConnection
设置为 1。
请参阅 {rabbitmq-stream-docs}/#configuring-the-environment[配置环境]。
Micrometer 观测
自 3.0.5 版本以来,RabbitStreamTemplate
和流监听器容器现在支持使用 Micrometer 进行观测。
容器现在也支持 Micrometer 计时器(当未启用观测时)。
在每个组件上设置 observationEnabled
以启用观测;这将禁用 Micrometer 计时器,因为计时器现在将通过每次观测进行管理。
使用注解监听器时,在容器工厂上设置 observationEnabled
。
有关更多信息,请参阅 {micrometer-tracing-docs}[Micrometer Tracing]。
要向计时器/跟踪添加标签,请分别将自定义 RabbitStreamTemplateObservationConvention
或 RabbitStreamListenerObservationConvention
配置到模板或监听器容器。
默认实现为模板观测添加 name
标签,为容器添加 listener.id
标签。
您可以子类化 DefaultRabbitStreamTemplateObservationConvention
或 DefaultStreamRabbitListenerObservationConvention
,或者提供全新的实现。
有关更多详细信息,请参阅 Micrometer 观测文档。