TinyBERT:模型小7倍,速度快8倍,华中科大、华为出品( 十 )

映射函数对模型性能的影响

研究者探究了不同映射函数 n = g(m) 对于 TinyBERT 学习的影响,比较结果见下表 7:

表 7:不同映射策略的对比结果。

本文为机器之心报道,转载请联系本公众号获得授权。

------------------------------------------------

版权声明:本文仅代表作者观点,不代表手机腾讯网立场。版权归自媒体所有,未经许可不得转载。

推荐阅读