打破数据孤岛：联邦学习近期重要研究进展(24)_机器之心原创作者：仵冀颖编辑：H4O随

从最上层的隐藏层 c=C 开始，我们使用与单层情况中相似的模型生成每个层，基于各层结果生成一个全局原子集合，并使用 Beta-Bernoulli 过程构造为每个批（batch）选择一个子集。L 对应某层神经元的数目，它控制对应层原子的尺寸。多层模型的生成过程如下：

图26/49

其中 Tj^c 表示第 j 批在 c 层使用的全局原子（神经元）集。最后，生成观察到的局部原子：

遵循自上而下的生成模型，本文采用贪婪推理过程，首先推断出顶层的匹配，然后再向下进行网络层的匹配。每个层的生成过程仅依赖于其上一层中的全局神经元的类别和数量，因此，一旦推断得到全局模型的 C+1 层，就可以将单层推理算法（如图 1 中的算法 1）应用到第 C 层。也就是说，只需要一轮通信，就可以生成全局模型。图 2 直观地说明了整个多层推理过程，算法 2 提供了详细信息。