【问题标题】:How to restart flink job to use added TaskManager如何重新启动 flink 作业以使用添加的 TaskManager
【发布时间】:2017-06-23 17:54:41
【问题描述】:

我正在测试 Flink 1.3.0 中的弹性功能。我有一份启用检查点和固定延迟重启策略的工作。当我杀死其中一个 TaskManager JVM 时,一段时间后,作业会在剩余节点上正确重新启动。但是,当我添加一个新节点时,该作业不会自动重新启动以使用它。

我尝试使用bin/flink stop <jobId>,但它总是给我java.lang.IllegalStateException: Job with ID <jobId> is not stoppable.

如何重新启动作业以使用附加节点?

【问题讨论】:

    标签: java apache-flink flink-streaming


    【解决方案1】:

    Flink 1.3 不提供动态缩放,并且不会自动重启作业以利用新的可用资源。要在这种情况下重新启动作业,您应该获取一个保存点,增加并行度,然后从保存点重新启动作业。您可以使用这样的保存点取消作业:

    flink cancel -s [targetDirectory] <jobID>
    

    然后通过

    重启
    flink run -s <savepointPath> ...
    

    有关保存点的更多详细信息,请参阅 CLI docssavepoint docs,但您可以将保存点视为用户触发的检查点。

    Apache Flink® at MediaMath: Rescaling Stateful Applications in Production 是 data Artians 最近的一篇博文,其中详细介绍了内部缩放的工作原理。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2019-02-25
      • 1970-01-01
      • 2019-11-18
      • 2014-11-15
      • 2017-02-13
      • 1970-01-01
      • 1970-01-01
      • 2014-11-09
      相关资源
      最近更新 更多