打破数据孤岛：联邦学习近期重要研究进展(22)

2019-09-30

其中每个 theta_i 是由特征提取器权重偏差对与 softmax 回归的相应权重形成的级联向量。本文使用「batch」来表示数据的一个分区。接下来，对于每个 j=1,...,J，通过 Bernoulli 过程为 batch j 选择全局原子的子集：

最后，假设观测到的局部原子是对应全局原子的有噪测量结果：

在这个模型中，待推断的关键量是随机变量的集合，这些随机变量在任何一批（batch）中都将观测到的原子（神经元）与全局原子相匹配。这些随机变量的集合表示为。

对上述模型的全局原子进行 MAP 估计的算法目标函数如下：

图23/49

根据「高斯分布是高斯分布的共轭」命题，上式可计算为：

图24/49

推荐阅读

上一篇：改头换面式大升级！16寸MacBook Pro即将登场

下一篇：苏州短信实名制预购1499元飞天茅台吸引2000人抢购