【问题标题】:Federated Learning in Tensorflow Federated, is there any way to apply Early stopping on the client side?Tensorflow Federated 中的联邦学习,有没有办法在客户端应用早期停止?
【发布时间】:2021-02-18 17:31:39
【问题描述】:

我正在使用 Tensorflow Federated 通过联合学习方法训练文本分类模型。 有没有办法在客户端应用提前停止? API中是否有交叉验证选项? 我唯一能找到的是评价:

evaluation = tff.learning.build_federated_evaluation(model_fn)

在联合训练轮结束时应用于模型。

我错过了什么吗?

【问题讨论】:

    标签: tensorflow tensorflow-federated federated-learning


    【解决方案1】:

    控制客户端在使用tff.learning.build_federated_averaging_process 时执行的步骤数的一种直接方法是使用不同的参数设置每个客户端tf.data.Dataset。例如使用tf.data.Dataset.take 限制步数。指南tf.data: Build TensorFlow input pipelines 有更多详细信息。

    根据学习进度的测量值来选择停止将需要修改当前算法的一些内部结构。与其使用tff.learning 中的 API,不如探索federated/tensorflow_federated/python/examples/simple_fedavg/ 可能更简单,尤其是客户端训练循环是here,并且可以根据“数据集结束”(如当前使用的)以外的某些标准进行修改以停止.

    【讨论】:

      猜你喜欢
      • 2021-07-08
      • 1970-01-01
      • 1970-01-01
      • 2022-06-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2022-06-16
      • 1970-01-01
      相关资源
      最近更新 更多