团队|数据挖掘领域大师俞士纶团队新作：最新图自监督学习综述( 四 )_领域|监督|研究|俞士纶|任务

基于生成的方法主要通过重构输入数据以获取监督信号。根据重构的对象不同，本文将该类方法进一步细分为两个子类：特征生成和结构生成。

文章图片

基于生成的图自监督学习
特征生成方法通过代理解码器对特征矩阵进行重构。模型的输入为原始图或者经过扰动的图数据，而重构对象可以是节点特征矩阵，边特征矩阵，或者经过 PCA 降维的特征矩阵等。对应的自监督损失函数一般为均方误差（MSE）。比较有代表性的方法为 Graph Completion ，该方法对一些节点的特征进行遮盖，其代理任务的学习目标为重构这些被遮盖的节点特征。
结构生成方法起源于经典的图自编码器（GAE），一般采用基于表征相似度的解码器对图的邻接矩阵 A 进行重构。由于邻接矩阵的二值性，对应的损失函数一般为二分类交叉熵（BCE）；而由于邻接矩阵的稀疏性，一般采用负采样等手段实现类别平衡。
本文对现有的基于生成的图自监督学习方法进行了总结，如下表所示：

文章图片

B．基于属性的图自监督学习方法
基于属性的方法从图中自动获取一些有用的属性信息，以此作为监督信号对模型进行训练。这类方法在形式上与监督学习比较类似，都是采用 “样本 - 标签” 的数据模式进行学习，其区别在于这里的 “标签” 信息为伪标签，而监督学习所用的为人工标签。根据监督学习的分类模式，本文将该类方法细分为两个子类：属性分类和属性回归。

文章图片

基于属性的图自监督学习
属性分类方法自动地从数据中归纳出离散的属性作为伪标签，作为代理任务的学习目标供模型学习，对应的损失函数一般为交叉熵。通过获取伪标签的手段不同，该类方法可进一步分为：1）基于聚类的属性分类：2）基于点对关系的属性分类。前者采用基于特征或结构的聚类算法的对节点赋予伪标签，而后者则是通过两个点之间的关系得到一个点对的伪标签。
属性回归方法从数据中获取连续的属性作为伪标签，对应的损失函数为均方误差（MSE）。一个典型的例子是提取节点的度（degree）作为其属性，通过代理编码器对该特性进行回归，实现对模型的自监督训练。
该类别方法的总结如下表所示：

文章图片

C．基于对比的图自监督学习方法

团队|数据挖掘领域大师俞士纶团队新作：最新图自监督学习综述( 四 )

推荐阅读

如何找寻自我

缝纫机调线器怎么安装平车方法如何

强组词强字组词

火笋鸡翅的做法（增肥食谱）

闺女生日快乐祝福语朋友圈

LV请来潮牌设计师做艺术总监，看中的是啥

老虎豆怎么做好吃老虎豆图片怎样弄来吃

暖气有流水声是什么原因

皮球是什么体

手机怎样开通QQ空间

男生发mua说明 mua是什么意思

手指盖凹陷怎么回事

对自己的生活失去掌控咋调整

小米10s怎么没有月亮模式

我想找个偏僻的地方搞养殖！有没有推荐的地方？

南京养老金认证上门服务怎么申请南京市养老金认证

如何评价猪场阉割猪？

最后一个字是豹的成语

泰山散酒怎么样

猫发情的声音(猫发情的叫声)