微软最新通用预训练模型MASS，超越BERT、GPT！( 八 )
图10/12
对话生成
在对话生成（Cornell Movie Dialog Corpus）任务上，我们将 MASS 同 BERT+LM 进行了比较，结果如下表所示。MASS 的 PPL 低于 BERT+LM。
图11/12
在不同的序列到序列自然语言生成任务中，MASS 均取得了非常不错的效果。接下来，我们还将测试 MASS 在自然语言理解任务上的性能，并为该模型增加支持监督数据预训练的功能，以期望在更多自然语言任务中取得提升。未来，我们还希望将 MASS 的应用领域扩展到包含语音、视频等其它序列到序列的生成任务中。
论文地址：
https://arxiv.org/abs/1905.02450
本文经授权转载自微软研究院AI头条(ID: MSRAsia)
推荐阅读
- 魔兽世界|魔兽世界：60版本赛季服最新消息，大家都跑过去体验，真香定律
- 微软|微软Xbox 20周岁了，但这些密辛你未必知道
- edg战队|外媒公布最新世界赛决赛含金量TOP10，EDG对DK这场登顶
- 上古卷轴6|B社画饼上瘾，《上古卷轴6》最新消息流出，玩家还要等20年
- 微软|热血传奇：54级巨战《恩比德》，5万的裁决用来挂机好吗？
- ig|UZI最新直播回复几个关键问题：加入IG，复出，训练赛？
- 微软|【多图杀猫？】IGN满分大作《极限竞速：地平线 5》今日正式发布
- |Angelababy晒最新COS照，蓝色麻花辫颇显俏皮，将在斗鱼直播首秀
- 艾琳|蓬勃向上，电竞＋的持续上行
- 使命|三国杀：最新的送给你一个老武将，国战将进入基本场，终于做人了