原创<br> 重磅技术突破与豪取世界冠军后,加速度的百度大脑将如何支撑产业智能化?( 三 )
所谓模型泛化能力,也就是考察参赛团队模型对于未知数据的预测能力,这不仅提升了测试难度,也将过往只能停留在实验室特定场景的能力延伸到了工业界应用之中。
规则要求,参赛团队需要综合利用6个训练集训练一个统一的阅读理解模型,之后在12个分布各异的数据集上测试模型效果,其中包括6个在训练阶段完全没见过的未知来源数据集,简言之,它考验的是哪一支团队的模型具备真正落地的潜力。
百度在此次竞赛中采用「预训练-微调」的模型训练架构,整个过程中,百度飞桨(PaddlePaddle)起到重要作用,比如在利用大规模无标签语料对语言模型进行预训练的过程里,采用飞桨深度学习框架预训练模型,能够获得比官方基线更好的效果。
另外,该团队还将飞桨多任务学习框架应用到模型微调过程中,利用其它自然语言处理任务标注数据提升问答效果,同时还引入了防止灾难性遗忘的机制以及提升模型多领域适应性的机制,在提升模型速度的同时,也大大提升了问答的准确率。
推荐阅读
- 手机游戏|LOL手游技术主播排位遭遇安排,玩家段位各种大倒退,多人“中招”
- 地下城与勇士|DNF:技术流主播的“末路”?Eiji的直播风格引起争议!
- 诺言|酒馆战棋全靠运气?这3点展现技术的重要性!
- 斗鱼|杨颖斗鱼首秀,透露喜欢金克丝的原因,游戏技术得到若风认可
- 地下城与勇士|DNF:游戏已变了味!两个技术帝主播衰败,人气热度濒临淘汰
- 机战|机战30:原创女主三叶收获极高评价 夏亚坦言这是自己的新妈妈
- edg战队|重磅!EDG晋级总决赛,五局鏖战力克GEN,957:还是不够DK打
- fps|法神直播展示匕首技术,却不料被连续振刀?直言下次不许再玩了
- 官宣|重磅消息《绝地求生:未来之役》正式官宣,11月11海外正式上架!
- |西山居曝光“游戏增强学习AI技术”,正在1款内部产品中测试