超小型BERT中文版横空出世!模型只有16M,训练速度提升10倍( 九 )

图13/15

作者介绍

徐亮,杭州实在智能算法专家,在深度学习、文本分类、意图识别、多轮对话与问答系统方面有非常深入的研究和创新。

超小型BERT中文版横空出世!模型只有16M,训练速度提升10倍

图14/15

徐亮

开源项目包括:预训练roBERTa模型中文版、预训练ALBERT模型中文版、大规模中文自然语言处理语料nlp_chinese_corpus、中文任务基准测评chineseGLUE(发起人)。

个人主页:

https://github.com/brightmart

做这个项目初衷,是作为促进完善中文自然语言处理的开源生态努力的一部分,开源SOTA的预训练中文模型,促进中文语言理解的更广泛应用;通过学习和复现相关最新论文,根据业界前沿,与更多行业内朋友交流。

其他相关的努力包括:推动中文任务基准测评;搜集整理更多公开可用的高质量数据集和建立相应的基准模型、大规模语言理解语料库、SOTA预训练模型的广泛测评等。

推荐阅读