【发布时间】:2019-04-29 20:24:12
【问题描述】:
检查点超时后失败。我们观察到有一些子任务没有响应。有什么想法会导致这个问题吗?
工作背景:
并行度:5
数据量:40k以下
BackPressure:在作业结束时发送到另一个 API,这可能需要一些时间。
missing subtask respond 外部调用:
Future<> future = Producer.send(topic, genericRecord, dataSetID);
future.get();
return Boolean.TRUE;
【问题讨论】:
-
您能否分享更多有关如何处理与外部 API 的连接的信息?从你所说的来看,问题几乎肯定存在。
-
这是一个java异步调用,底层由Scala实现。你的意思是异步调用失败了,我想不通为什么它为这种子任务等待超过 10 分钟。 @大卫安德森