tensorflow 联邦学习检查点答案

【问题标题】：tensorflow federated learning checkpointtensorflow 联邦学习检查点
【发布时间】：2019-10-05 11:45:30
【问题描述】：

我正在使用 tensorflow 联合 API 研究 federated_learning_for_image_classification.ipynb。

在示例中，我可以检查每个模拟客户训练的准确度、损失和总准确度、总损失。

但是没有检查点文件。

我想制作每个客户端检查点文件和总检查点文件。

然后比较客户端参数变量和总参数变量。

谁能帮我在 federated_learning_for_image_classification.ipynb 示例中制作检查点文件？

【问题讨论】：

标签： tensorflow tensorflow-federated

【解决方案1】：

要问的一个问题是，您是要比较变量内 TFF（作为联合计算的一部分）还是事后/外 TFF（在 Python 内分析）。

修改tff.learning.build_federated_averaging_process 执行的tff.utils.IterativeProcess 构造可能是一个不错的方法。事实上，我建议在 GitHub 上的tensorflow_federated/python/research/simple_fedavg/simple_fedavg.py 上分叉简化实现，而不是深入研究tff.learning。

将对来自客户端的更新执行tff.fedetated_mean 的the line 更改为tff.federated_collect 将提供所有客户端模型的列表，然后可以将其与全局模型进行比较。

例子：

client_deltas = tff.federated_collect(client_outputs.weights_delta)

@tff.tf_computation(server_state.model.type_signature,
                    client_deltas.type_signature)
def compare_deltas_to_global(global_model, deltas):
  for delta in deltas:
    # do something with delta vs global_model 

tff.federated_apply(compare_deltas_to_global, (server_state.model, client_deltas))

【讨论】：