原创<br> 1.2万亿晶体管,史上最大半导体芯片诞生,比最大的GPU大56.7倍( 三 )
40万AI优化的计算内核
WSE包含400,000个AI优化的计算内核(compute cores)。被称为SLAC(Sparse Linear Algebra Cores),计算内核灵活,支持编程,并针对支持所有神经网络计算的稀疏线性代数进行了优化。SLAC的可编程性确保内核可以在日新月异的机器学习领域中运行所有神经网络算法。
由于稀疏线性代数内核针对神经网络计算进行了优化,因此它们可实现业界最佳资源利用率——通常是图形处理单元的三倍或四倍。此外,WSE内核包括Cerebras发明的稀疏性收集技术,以及加速稀疏工作负载(包括0的工作负载)的计算性能,如深度学习。
0在深度学习计算中很普遍。通常,要相乘的向量和矩阵中的大多数元素都是0。然而,乘以零是浪费资源,功率和时间的行为。
因为GPU和CPU是密集的执行引擎——引擎的设计是永不遇到0——它们即使在遇到0时也会进行计算。当50%-98%的数据为零时,比如深度学习中的情况,大多数乘法都没有意义。而Cerebras稀疏线性代数内核不会乘以零,所有零数据都会被过滤,直接在硬件中跳过,从而可以释放资源完成其他有用的工作。
推荐阅读
- |英雄联盟11.23版本更新曝光,终极魔典回归!先攻惨遭削弱!
- 盖伦|金铲铲之战1.21a圣盾大嘴阵容搭配攻略
- 机战|机战30:原创女主三叶收获极高评价 夏亚坦言这是自己的新妈妈
- 吃鸡游戏|弈周棋事:11.21王者阵容排行,阵容趋势骤变,恶魔小炮称雄
- 艾尔登法环|TapTap下载量1.2亿,这款游戏颠覆了我对电竞赛事的看法
- playstation4|金铲铲之战1.20a更新,版本变天6法大砍,5费卡史诗级增强
- 上单|LOL:终获加强,11.20诺手W技能CD下降,教你如何担当上单质检员
- 提莫|PBE11.21版本改动:提莫等多名英雄增强!挺进破坏者有新的调整
- 原神|原神:荒泷一斗的“腹肌”被二次原创?玩家:何止是这样
- 隐形守护者|【前瞻】11.21版本:佛耶戈、提莫加强 男枪、阿克尚削弱