打破数据孤岛:联邦学习近期重要研究进展(39)

2)深度模型图像分类实验

【MNIST】模型:6 层卷积神经网络(TensorFlow,经典优化算子)。实验结果见表 1。图 3(a)中给出 20 次实验的标准误差图。

【CIFAR10】模型:6 层卷积神经网络(TensorFlow,Adam 优化算子)。实验结果见表 1。图 3(b)中给出 20 次实验的标准误差图。

表 1. 随机初始化训练 6 层 CNNS 的实验参数.

打破数据孤岛:联邦学习近期重要研究进展

图47/49

打破数据孤岛:联邦学习近期重要研究进展

图48/49

图 3. 隐私保护联邦学习(由隐私参数ε1 索引)与非隐私保护模型更新的图像分类准确度比较.

3)预训练模型

ImageNet预训练 ResNet50v2 网络 [5]。在 Flickr 语料库的子集上针对 100 个类别的分类任务,利用预训练的 ResNet 模型再次进行模型训练。图 4(a) 给出了联邦学习和本文方法在 12 次实验中的标准错误之间的准确度差异。

推荐阅读