如何使用可查询状态客户端在 flink 中获取多个 keyBy 的状态？

Question

我使用的是 Flink 1.4.2，我有一个场景需要使用两个键。 例如

KeyedStream<UsageStatistics, Tuple> keyedStream = stream.keyBy("clusterId", "ssid");
usageCounts = keyedStream.process(new CustomProcessFunction(windowSize,queryableStateName));

值描述会

ValueStateDescriptor<SsidTotalUsage> descriptor = new ValueStateDescriptor(queryableStateName, SsidTotalUsage.class);
        descriptor.setQueryable(queryableStateName);

谁能建议我使用可查询状态客户端获取 flink 中多个键的状态？

QueryableClient 下面对于单个键“clusterId”运行良好。

kvState = queryableStateClient.getKvState(JobID.fromHexString(jobId), queryableStateName, clusterId, BasicTypeInfo.STRING_TYPE_INFO, descriptor);

多个键的 type_info 应该是什么？任何与此相关的建议/示例或参考都会非常有帮助？

Answer 1

我找到了解决办法。

我在 valueStateDescription 中给出了 TypeHint。

在 Flink 作业中：

TypeInformation<SsidTotalUsage> typeInformation = TypeInformation.of(new TypeHint<SsidTotalUsage>() {});

ValueStateDescriptor<SsidTotalUsage> descriptor = new ValueStateDescriptor(queryableStateName, typeInformation);

在客户端：

ValueStateDescriptor<SsidTotalUsage> descriptor = new ValueStateDescriptor(queryableStateName, typeInformation);

我有两个键，所以我使用了 Tuple2 类并设置我的键的值，如下所示。 注意：如果你有两个以上的键，那么你必须根据你的键选择 Tuple3、Tuple4 类。

 Tuple2<String, String> tuple = new Tuple2<>();
 tuple.f0 = clusterId;
 tuple.f1 = ssid;

然后我提供了 TypeHint。

TypeHint<Tuple2<String, String>> typeHint = new TypeHint<Tuple2<String, String>>() {};

CompletableFuture<ValueState<SsidTotalUsage>> kvState = queryableStateClient.getKvState(JobID.fromHexString(jobId), queryableStateName, tuple, typeHint, descriptor);

在上面的代码中，getState 方法将返回 ImmutableValueState 所以我需要像下面这样得到我的 pojo。

ImmutableValueState<SsidTotalUsage> state = (ImmutableValueState<SsidTotalUsage>) kvState.get();

totalUsage = state.value();