美人秀色空绝世,我用PS-GAN试伊妆( 五 )

PSGAN 是首个能同时实现逐部分迁移、浓浅程度可控迁移和姿势稳健型迁移的基于 GAN 的方法。

新提出的 AMM 模块可以调整从参照图像提取出的妆容矩阵,使其适应源图像。这个模块让 PSGAN 有能力在姿态不同的图像之间迁移妆容风格。

研究者进行了广泛的定性和定量实验,结果表明 PSGAN 是有效的。

模型架构是什么

美人秀色空绝世,我用PS-GAN试伊妆

图4/10

图 2:(A)PSGAN 框架示意图、(B)AMM 模块示意图、(C)源图像中一个特定红点的注意图的示意图。

对于 PSGAN 框架,首先,DRNet 对源图像执行卸妆操作,MDNet 则从参照图像提炼妆容矩阵。AMM 模块将提炼出来的矩阵应用于 DRNet 的第三个瓶颈的输出特征图,以实现妆容迁移。

对于 AMM 模块,具有 136(68×2)个通道的绿色模块表示像素的相对位置向量,然后再与 C 通道视觉特征相连接。由此,可通过相对位置与视觉特征的相似度为源图像中的每个像素计算出注意图(attentive map)。AMM 模块得到自适应妆容矩阵 γ』 和 β』,然后再逐元素地乘和加为 DRNet 的特征图。图中的橙色和灰色模块分别表示有妆容和无妆容的特征。

推荐阅读