同质化和涌现特性带来机遇与挑战
最近 ， 斯坦福大学数十位研究者联名发表《基础模型的机遇和风险》综述文章 ， 认为大模型的特点之一是“同质化” ， 好处在于大模型的任何一点改进就可以迅速覆盖整个AI社区 。 但同时 ， 它也带来一些隐患 ， 大模型的缺陷会被所有下游模型所继承 。 特点之二是海量数据训练出的基础模型具有“涌现”特性 ， 也就是产生未曾预先设想的新能力 ， 这种特性有望让AI具备处理语言、视觉、机器人、推理、人际互动等各类相关任务的能力 。 因此这类模型将赋能各行各业 ， 加快行业的智能化转型 ， 在法律、医疗、教育等领域都会带来具有社会价值的影响 。
但同时 ， 如何应对大模型下游的传播问题 ， 进一步提高信息的精准性与适用性 ， 以人工智能大模型技术激活各行各业？
黄铁军回答道：“这是学界现在所面临的共同难题 ， 未来应该从几个方面来减轻甚至消除这类影响：首先就是要关注训练数据的质量 ， 目前一些模型具有的偏见其实都是由训练数据本身所引发的 ， 因此我们要在数据源头上做好保障 ， 既要量大 ， 也要质高 。 第二 ， 要加强对算法本身及模型内部运作机制的研究 ， 目前深度学习算法的可解释性等理论还在探讨阶段 ， 对大模型的理论分析和缺陷查找能力提出了更大挑战 ， 这就需要加强基础研究 ， 以支撑大模型在那些可靠性要求更高行业中的应用 。 此外 ， 模型的训练过程中 ， 要加入多模态的数据 ， 比如文本、图片、视频等类型的输入 ， 通过多模态信息内在的多重关联性降低大模型‘偏执’的概率 。 我们常说人要‘行万里路 ， 读万卷书’ ， 大模型也一样 ， 会随着算法的改进和‘阅历’的增加越来越智能 。 ”（华 凌）
推荐阅读
- 模型|2022前展望大模型的未来，周志华、唐杰、杨红霞这些大咖怎么看？
- 训练|华为运动健康 Beta 新版本测试：新增健身课程分享、血压挑战计划
- 模型|经逆向工程，Transformer「翻译」成数学框架 | 25位学者撰文
- 化纤|JXK STUDIO 虎年肥猫 1/6仿真动物模型手办可爱摆件
- 模型|达摩院2022十大科技趋势发布：人工智能将催生科研新范式
- 模型|李彦宏:中国迎来AI黄金十年,集度汽车机器人明年亮相,智能交通10年内解决拥堵
- 模型|神经辐射场去掉「神经」，训练速度提升100多倍，3D效果质量不减
- 棉花|国金早报｜宁波“清零”！深圳同一落地航班检出3例奥密克戎；英国日增新冠确诊首超12万例；南方电网股权结构调整
- 模型|英伟达：美团机器学习平台使用NVIDIA T4 GPU
- 训练|腾讯云副总裁吴运生：AI落地出现新变化，对细分行业需要深入理解