当推荐遇到社交:美图的推荐算法设计优化实践( 五 )
高效:采用 tensorflow 底层 API 和 Estimator 来实现,并遵循 tensorflow 官方性能优化指南,最大限度提升模型训练效率,相比 Keras 以及内部未优化版本,单卡训练效率有数倍提升。同时,能够支持同步、异步等多种并行训练方案;
可扩展:Bamboo 的最初的设计目标是作为 tensorflow 的补充,因此在整个设计过程充分考虑了扩展性,能够支持采用 Bamboo 提供的 API 或者使用 tensorflow 原生 API。良好的分层设计,方便使用方进行模块的复用和重构。
MML Serving
MML Serving 决定了模型能否上线提供服务以及在线服务的效率。去年下半年,我们上线了采用 C++ 开发的新版 MML Serving,通过内存和并发的优化,让我们整体预估耗时减少了 50%,服务初始化耗时减少了 50%,内存使用量降低了 77%。通过压测发现,服务在高并发下,整体表现稳定。另外良好的架构设计,可以很方便接入各种第三方机器学习库,目前已经内置了对 tensorflow 和 xgboost 模型的支持。
平台收益
推荐阅读
- xyg|XYG晋级S组,还没来得及高兴就遇到了生涯最强的对手,大仙都愁眉苦脸
- 狼队|fly杀伤力有多强?张大仙一句评价太到位,幸好他们没遇到狼队
- 腕豪|LOL:排位选腕豪要BAN掉的五个英雄,遇到第二位,打野来了也没用
- 我的世界|《我的世界》领衔!推荐9款低配置、超耐玩的游戏神作
- 单机|游戏推荐:当前八款最热门的大型单机,都是不容错过的精品游戏
- 游戏推荐|11月游戏推荐,每年的游戏黄金月份,你还在不知道玩什么吗?
- 盖伦|金铲铲:上大分阵容推荐!赌狗阵容变异大嘴湮灭一切!
- 游戏推荐|Steam疯狂周三特惠游戏推荐,每一款都是特别好评!
- 光剑|DNF:鬼剑士武器幻化推荐!光剑首推“灯管”,流光系人气最高
- 传奇|璀璨复古传奇:法师遇到战士只能被按在地上摩擦?道士表示不服