联合平均和 TensorFlow

Question

我是联邦学习的新手，刚刚开始了解 TensorFlow Federated TFF 框架。我心中有一些问题，如果有人能澄清它们，我将不胜感激：

1. 联合平均算法是 TFF 中唯一支持的聚合算法吗？以及它与联邦随机梯度下降有何不同？
2. 剂量联合平均要求每个客户都接受神经网络培训？或者可以使用任何机器学习算法对本地数据进行训练？
3. 我有大数据，我打算将我的数据划分为更小的数据集，并将每个部分模拟为一个客户端？这在 TFF 中有效吗？是否考虑横向或纵向联邦学习？

提前致谢

Answer 1

图像分类的联邦学习教程将是学习 TFF 的良好开端：https://www.tensorflow.org/federated/tutorials/federated_learning_for_image_classification“准备输入数据”部分与您的第三个问题有关。关于垂直与水平：我知道最近的出版物中定义了许多类型的联邦学习。就我个人而言，我将您所描述的称为跨孤岛联邦学习，请参阅本文第 2.2 节了解更多信息：https://arxiv.org/abs/1912.04977

回答您的其他问题：

请参阅上面的教程，了解如何在服务器端和客户端设置 SGD 学习率的同时创建具有联合平均的 iterative_process。您还可以实现自定义的联邦学习算法：https://www.tensorflow.org/federated/tutorials/building_your_own_federated_learning_algorithm（本教程可能还会回答您关于自定义本地训练的第二个问题？）