如何将深度学习训练速度提升一百倍?PAISoar 来了(17)
3.3 模型迭代
我们通过分布式训练加快了绿网模型的收敛 , 这时就可以尝试采用更复杂的神经网络结构来提高 AUC , 之前绿网模型内使用的是 Inception v3 结构 , 我们升级到 Inception v4 进行测试 , 发现 ROC 曲线提升明显:
PAISoar 的分布式加速能力让我们可以尝试使用更复杂的模型结构来提高模型效果 。
4. 总结和展望
通过与 AIS 网络团队、RDMA 项目团队的协同合作 , PAI Tensorflow 的分布式训练框架 PAISoar 成功上线 , 并和安全部在绿网模型上进行合作落地 , 取得非常好的效果 , 128 GPU卡上计算加速比达到101倍 。 期望后续能服务更多的用户 , 并为用户提供简单、高效、可靠的分布式服务 。
接下来我们会继续优化分布式训练框架 PAISoar:
-
尝试不同的网络拓扑结构和通信架构 , 进一步充分利用网络带宽;
推荐阅读
- 小鱼人|如何在新赛季稳定上分?善于抓失误的小鱼人,值得认真练上一波
- 阴阳师|阴阳师SR川猿强度如何 是否值得抽卡 改变斗技环境 大佬的新玩具
- 手机游戏|梦幻西游手游:活力如何换金币 一切都已给出 就看你的选择
- 华佗|三国杀:两位\奶爸\,朱治与华佗比,强度如何呢?
- 亲朋上分|《亲朋上分》266391亲朋下分亲朋上下分永劫无间崔三娘技能介绍 崔三娘如何获得更多技能
- s6|金铲铲之战:S6双城传说如何才能快速上手?基础知识很关键
- |冰雪传奇:平民玩家四转后如何打金
- 穿越火线|CF:传说武器再度上新,那王者、炫金该如何发展?
- 无尽梦魇|魔兽世界TBC:深度解析“翠绿的宝珠”对哪些职业保值
- 打野|打野已经被削到几乎不能再削了,到底如何平衡打野位置?