打破数据孤岛：联邦学习近期重要研究进展(25)_机器之心原创作者：仵冀颖编辑：H4O随

图27/49

图28/49

图 2. 显示三层 MLP 匹配的概率联邦神经网络匹配算法.

图 2 中的节点表示神经元，相同颜色的神经元表示相互匹配。左侧图显示了其中一层的匹配方法，具体为：使用下一个最高层的匹配分配将每个 j 批中的神经元转换为引用全局上一层的权重向量。使用这些权重向量形成代价矩阵，之后使用 Hungarian 算法进行匹配。最后，对匹配的神经元进行聚集和平均，形成全局模型中新的一层。如图 2 中右图所示，在多层设置中，生成的全局层用于匹配下一个较低层等，直到到达底部隐藏层。

3）附加通信回合的神经匹配

在上面的分析中，本文提出的 PFNM 方法仅需一个通信回合就可构建全局模型。而经典的联邦学习基于本地数据需要经过几个阶段的训练生成本地模型，之后通过本地模型和全局模型间的多轮通信构建最终的全局模型。借鉴联邦学习的理念，通过引入额外的通信回合，能够有效扩展和提升 PFNM 的性能。