记录序列化和反序列化
Kafka Streams 绑定器允许您以两种方式序列化和反序列化记录。一种是 Kafka 提供的原生序列化和反序列化功能,另一种是 Spring Cloud Stream 框架的消息转换功能。让我们看一些细节。
入站反序列化
键始终使用原生 Serdes 进行反序列化。
对于值,默认情况下,入站反序列化由 Kafka 原生执行。请注意,这是 Kafka Streams 绑定器先前版本中默认行为的一项重大更改,以前的反序列化是由框架完成的。
Kafka Streams 绑定器将尝试通过查看 java.util.function.Function|Consumer 的类型签名来推断匹配的 Serde 类型。以下是它匹配 Serdes 的顺序。
-
如果应用程序提供了一个
Serde类型的 bean,并且返回类型使用传入键或值的实际类型进行了参数化,那么它将使用该Serde进行入站反序列化。例如,如果您在应用程序中有以下内容,绑定器会检测到KStream的传入值类型与Serdebean 上参数化的类型匹配。它将使用该 Serde 进行入站反序列化。
@Bean
public Serde<Foo> customSerde() {
...
}
@Bean
public Function<KStream<String, Foo>, KStream<String, Foo>> process() {
}
-
接下来,它会查看类型,并查看它们是否是 Kafka Streams 公开的类型之一。如果是,则使用它们。以下是绑定器将尝试从 Kafka Streams 匹配的 Serde 类型。
Integer, Long, Short, Double, Float, byte[], UUID and String.
-
如果 Kafka Streams 提供的 Serdes 都不匹配这些类型,那么它将使用 Spring Kafka 提供的 JsonSerde。在这种情况下,绑定器假定这些类型是 JSON 友好的。如果您有多个值对象作为输入,这很有用,因为绑定器将在内部将它们推断为正确的 Java 类型。但在回退到
JacksonJsonSerde之前,绑定器会检查 Kafka Streams 配置中设置的默认Serde,以查看它是否是与传入 KStream 类型匹配的Serde。
如果以上策略都不奏效,那么应用程序必须通过配置提供 Serde。这可以通过两种方式配置 - 绑定或默认。
首先,绑定器将查看是否在绑定级别提供了 Serde。例如,如果您有以下处理器,
@Bean
public BiFunction<KStream<CustomKey, AvroIn1>, KTable<CustomKey, AvroIn2>, KStream<CustomKey, AvroOutput>> process() {...}
那么,您可以使用以下方式提供绑定级别的 Serde
spring.cloud.stream.kafka.streams.bindings.process-in-0.consumer.keySerde=CustomKeySerde
spring.cloud.stream.kafka.streams.bindings.process-in-0.consumer.valueSerde=io.confluent.kafka.streams.serdes.avro.SpecificAvroSerde
spring.cloud.stream.kafka.streams.bindings.process-in-1.consumer.keySerde=CustomKeySerde
spring.cloud.stream.kafka.streams.bindings.process-in-1.consumer.valueSerde=io.confluent.kafka.streams.serdes.avro.SpecificAvroSerde
如果您为每个输入绑定提供了如上所述的 Serde,那么它将具有更高的优先级,并且绑定器将避免任何 Serde 推理。 |
如果您希望将默认的键/值 Serdes 用于入站反序列化,您可以在绑定器级别进行此操作。
spring.cloud.stream.kafka.streams.binder.configuration.default.key.serde
spring.cloud.stream.kafka.streams.binder.configuration.default.value.serde
如果您不希望使用 Kafka 提供的原生解码,您可以依赖 Spring Cloud Stream 提供的消息转换功能。由于原生解码是默认设置,为了让 Spring Cloud Stream 反序列化入站值对象,您需要明确禁用原生解码。
例如,如果您有与上面相同的 BiFunction 处理器,那么 spring.cloud.stream.bindings.process-in-0.consumer.nativeDecoding: false 您需要单独为所有输入禁用原生解码。否则,原生解码仍将应用于您未禁用的那些。
默认情况下,Spring Cloud Stream 将使用 application/json 作为内容类型,并使用适当的 json 消息转换器。您可以通过使用以下属性和适当的 MessageConverter bean 来使用自定义消息转换器。
spring.cloud.stream.bindings.process-in-0.contentType
出站序列化
出站序列化遵循与上述入站反序列化相同的规则。与入站反序列化一样,Spring Cloud Stream 以前版本的一个主要变化是,出站序列化由 Kafka 原生处理。在绑定器的 3.0 版本之前,这是由框架本身完成的。
出站键始终由 Kafka 使用绑定器推断的匹配 Serde 进行序列化。如果无法推断键的类型,则需要通过配置指定。
值 Serdes 使用与入站反序列化相同的规则进行推断。首先,它匹配以查看出站类型是否来自应用程序中提供的 bean。如果不是,它会检查是否与 Kafka 公开的 Serde(例如 - Integer、Long、Short、Double、Float、byte[]、UUID 和 String)匹配。如果这不起作用,它将回退到 Spring Kafka 项目提供的 JacksonJsonSerde,但首先会查看默认的 Serde 配置以查看是否有匹配。请记住,所有这些对应用程序都是透明的。如果这些都不起作用,那么用户必须通过配置提供要使用的 Serde。
假设您使用的是与上面相同的 BiFunction 处理器。然后您可以按如下方式配置出站键/值 Serdes。
spring.cloud.stream.kafka.streams.bindings.process-out-0.producer.keySerde=CustomKeySerde
spring.cloud.stream.kafka.streams.bindings.process-out-0.producer.valueSerde=io.confluent.kafka.streams.serdes.avro.SpecificAvroSerde
如果 Serde 推理失败,并且未提供绑定级别 Serdes,则绑定器将回退到 JacksonJsonSerde,但会查找默认 Serdes 以进行匹配。
默认 Serdes 的配置方式与上面在反序列化下描述的方式相同。
spring.cloud.stream.kafka.streams.binder.configuration.default.key.serde spring.cloud.stream.kafka.streams.binder.configuration.default.value.serde
如果您的应用程序使用分支功能并具有多个输出绑定,则需要为每个绑定配置这些。同样,如果绑定器能够推断 Serde 类型,则无需进行此配置。
如果您不希望使用 Kafka 提供的原生编码,而是希望使用框架提供的消息转换,那么您需要明确禁用原生编码,因为原生编码是默认设置。例如,如果您有与上面相同的 BiFunction 处理器,那么 spring.cloud.stream.bindings.process-out-0.producer.useNativeEncoding: false 在分支情况下,您需要单独为所有输出禁用原生编码。否则,原生编码仍将应用于您未禁用的那些。
当由 Spring Cloud Stream 完成转换时,默认情况下,它将使用 application/json 作为内容类型,并使用适当的 json 消息转换器。您可以通过使用以下属性和相应的 MessageConverter bean 来使用自定义消息转换器。
spring.cloud.stream.bindings.process-out-0.contentType
当原生编码/解码被禁用时,绑定器将不会像原生 Serdes 那样进行任何推理。应用程序需要明确提供所有配置选项。因此,通常建议在编写 Spring Cloud Stream Kafka Streams 应用程序时,坚持使用默认的序列化/反序列化选项,并使用 Kafka Streams 提供的原生序列化/反序列化。您必须使用框架提供的消息转换能力的唯一场景是当您的上游生产者使用特定的序列化策略时。在这种情况下,您希望使用匹配的反序列化策略,因为原生机制可能会失败。当依赖默认的 Serde 机制时,应用程序必须确保绑定器能够正确地将入站和出站与适当的 Serde 进行映射,否则可能会失败。
值得一提的是,上面概述的数据序列化/反序列化方法仅适用于您的处理器边缘,即入站和出站。您的业务逻辑可能仍然需要调用明确需要 Serde 对象的 Kafka Streams API。这些仍然是应用程序的责任,必须由开发人员相应地处理。