消费记录

在上面的 upppercase 函数中,我们以 Flux<String> 格式消费记录,然后以 Flux<String> 格式生产记录。有时您可能需要以原始接收格式(即 ReceiverRecord)接收记录。这里就是一个这样的函数。

@Bean
public Function<Flux<ReceiverRecord<byte[], byte[]>>, Flux<String>> lowercase() {
    return s -> s.map(rec -> new String(rec.value()).toLowerCase());
}

在此函数中,请注意,我们以 Flux<ReceiverRecord<byte[], byte[]>> 格式消费记录,然后以 Flux<String> 格式生产记录。ReceiverRecord 是基本接收记录,它是 Reactor Kafka 中专门的 Kafka ConsumerRecord。使用 reactive Kafka binder 时,上述函数将使您能够访问每个入站记录的 ReceiverRecord 类型。但是,在这种情况下,您需要为 RecordMessageConverter 提供自定义实现。默认情况下,reactive Kafka binder 使用 MessagingMessageConverter,它从 ConsumerRecord 转换载荷和头部。因此,当您的处理方法接收到它时,载荷已经从接收到的记录中提取出来,并像我们上面看到的第一个函数那样传递给方法。通过在应用程序中提供自定义的 RecordMessageConverter 实现,您可以覆盖默认行为。例如,如果您想以原始的 Flux<ReceiverRecord<byte[], byte[]>> 格式消费记录,那么您可以在应用程序中提供以下 bean 定义。

@Bean
RecordMessageConverter fullRawReceivedRecord() {
    return new RecordMessageConverter() {

        private final RecordMessageConverter converter = new MessagingMessageConverter();

        @Override
        public Message<?> toMessage(ConsumerRecord<?, ?> record, Acknowledgment acknowledgment,
                Consumer<?, ?> consumer, Type payloadType) {
            return MessageBuilder.withPayload(record).build();
        }

        @Override
        public ProducerRecord<?, ?> fromMessage(Message<?> message, String defaultTopic) {
            return this.converter.fromMessage(message, defaultTopic);
        }

    };
}

然后,您需要指示框架为所需的绑定使用此转换器。这里是一个基于我们 lowercase 函数的示例。

spring.cloud.stream.kafka.bindings.lowercase-in-0.consumer.converterBeanName=fullRawReceivedRecord"

lowercase-in-0 是我们 lowercase 函数的输入绑定名称。对于出站(lowercase-out-0),我们仍然使用常规的 MessagingMessageConverter

在上面的 toMessage 实现中,我们接收原始的 ConsumerRecord(由于处于 reactive binder 上下文,所以是 ReceiverRecord),然后将其包装在 Message 中。然后将作为 ReceiverRecord 的消息载荷提供给用户方法。

如果 reactiveAutoCommitfalse(默认值),则调用 rec.receiverOffset().acknowledge()(或 commit())以提交偏移量;如果 reactiveAutoCommittrue,则 flux 将直接提供 ConsumerRecord。有关更多信息,请参阅 reactor-kafka 文档和 javadocs。