腾讯提出NumNet+模型,超越谷歌登DROP排行榜第一名( 四 )

腾讯提出NumNet+模型,超越谷歌登DROP排行榜第一名

图4/9

项目已经开源:

https://github.com/llamazing/numnet_plus

微信 AI 团队表示,目前,该技术还没有在业务上落地,未来将会用于完善腾讯小微智能对话助手。

接下来,本文将具体阐述 NumNet+ 模型的架构细节,以及新智元对微信 AI 团队的专访。

腾讯提出NumNet+模型,超越谷歌登DROP排行榜第一名

图5/9

NumNet+:基于数字感知的图神经网络

在多数已往的机器阅读理解模型中,数字与非数字单词被同等对待,如此便无法获知数字的大小关系,也不能完成诸如计数、加减法等数学运算。

为了解决这个问题,我们提出一种数字感知的图神经网络(numerically-aware graph neural network,NumGNN)。一方面,我们利用图的拓扑结构编码数字间的大小关系,具体的,我们将文章和问题中的数字作为图结点,在具有 “>” 和 “

推荐阅读