8 篇论文梳理 BERT 相关模型(15)

图18/23

表 5:BERT 在 Argument Reasoning Comprehension 任务中的表现

该文主要探究 BERT 在 ARCT(Argument Reasoning Comprehension)任务中取得惊人表现的真正原因。

首先,ARCT 任务是 Habernal 等人在 NACCL 2018 中提出的,即在给定的前提(premise)下,对于某个陈述(claim),相反的两个依据(warrant0,warrant1)哪个能支持前提到陈述的推理。

他们还在 SemEval-2018 中指出,这个任务不仅需要模型理解推理的结构,还需要一定的外部知识。在本例中,这个外部知识可以是 “Sport Leagues 是一个和 Sport 相关的某组织”。

该任务中表现最好的模型是 GIST,这里不详细展开,有兴趣的读者可以关注该论文。

8 篇论文梳理 BERT 相关模型

图19/23

图 10:模型框架与实验结果

推荐阅读