Grace|英伟达下一代Hopper架构GPU来了：H100拥有800亿个晶体管模型|训练|Hopper|带宽|晶体管

3月22日，在2022 GTC大会上， NVIDIA宣布推出采用Hopper架构的新一代加速计算平台，其将取代两年前推出的Ampere架构（NVIDIA迄今为止最成功的GPU架构）。同时， NVIDIA发布了其首款基于Hopper架构的GPU—NVIDIA H100 。

文章图片

NVIDIA H100集成了800亿个晶体管，采用台积电N4工艺，是全球范围内最大的加速器，拥有Transformer引擎和高度可扩展的NVLink互连技术（最多可连接达256个H100 GPU ，相较于上一代采用HDR Quantum InfiniBand网络，带宽高出9倍，带宽速度为900GB/s）等功能，可推动庞大的AI语言模型、深度推荐系统、基因组学和复杂数字孪生的发展。
Hopper架构以“计算机软件工程第一夫人”Grace Hopper命名。 Grace Hopper是计算机科学的先驱之一，发明了世界上第一个编译器——A-0 系统。 1945年， Grace Hopper在 Mark Ⅱ中发现了一只导致机器故障的飞蛾，从此“bug” 和 “debug” (除虫) 便成为计算机领域的专用词汇。
NVIDIA表示， H100 GPU在FP16、FP32和FP64计算方面比上一代A100快三倍，在8位浮点数学运算方面快六倍。 “对于大型Transformer模型的训练， H100 将提供高达9倍的性能，过去需要数周时间才能完成的训练可以减少到几天内， ”NVIDIA产品管理高级总监Paresh Kharya在发布会上表示。
Transformer现在已成为自然语言处理的标准模型方案，也是深度学习模型领域最重要的模型之一。
NVIDIA创始人兼CEO黄仁勋表示， “数据中心正在转变成‘AI工厂’ ，它们处理大量数据，以实现智能。 NVIDIA H100是全球AI基础设施的引擎，让企业能够利用其实现自身AI业务的加速。 ”
H100的800亿个晶体管采用了专为NVIDIA加速计算需求设计的TSMC 4N工艺，因而能够显著提升AI、HPC、显存带宽、互连和通信的速度，并能够实现近5TB/s的外部互联带宽。 H100是首款支持PCIe 5.0的GPU ，也是首款采用HBM3的GPU ，可实现3TB/s的显存带宽。
据介绍， 20个H100 GPU便可承托相当于全球互联网的流量，使其能够实时运行数据推理的大型语言模型和推出先进的推荐系统。
H100也是全球首款具有机密计算功能的加速器，可保护AI模型和正在处理的数据。据NVIDIA介绍，客户还可以将机密计算应用于医疗健康和金融服务等隐私敏感型行业的联邦学习，也可以应用于共享云基础设施。
H100采用新的DPX指令可加速动态规划，适用于包括路径优化和基因组学在内的一系列算法，与CPU和上一代GPU相比，其速度提升分别可达40倍和7倍。 Floyd-Warshall算法（可在动态仓库环境中为自主机器人车队寻找最优线路）与Smith-Waterman算法（可用于DNA和蛋白质分类与折叠的序列比对）也在其加速之列。
H100将支持聊天机器人使用功能强大的monolithic Transformer语言模型Megatron 530B ，吞吐量比上一代产品高出30倍，同时满足实时对话式AI所需的次秒级延迟。利用H100 ，研究人员和开发者能够训练庞大的模型，如包含3950亿个参数的混合专家模型，训练速度加速达9倍，将训练时间从几周缩短到几天。
【Grace|英伟达下一代Hopper架构GPU来了：H100拥有800亿个晶体管】H100可部署于各种数据中心，包括内部私有云、云、混合云和边缘数据中心，产品预计于今年晚些时候全面发售。

Grace|英伟达下一代Hopper架构GPU来了：H100拥有800亿个晶体管

推荐阅读

如何找寻自我

缝纫机调线器怎么安装平车方法如何

强组词强字组词

火笋鸡翅的做法（增肥食谱）

闺女生日快乐祝福语朋友圈

LV请来潮牌设计师做艺术总监，看中的是啥

老虎豆怎么做好吃老虎豆图片怎样弄来吃

暖气有流水声是什么原因

皮球是什么体

手机怎样开通QQ空间

男生发mua说明 mua是什么意思

手指盖凹陷怎么回事

对自己的生活失去掌控咋调整

小米10s怎么没有月亮模式

我想找个偏僻的地方搞养殖！有没有推荐的地方？

南京养老金认证上门服务怎么申请南京市养老金认证

如何评价猪场阉割猪？

最后一个字是豹的成语

泰山散酒怎么样

猫发情的声音(猫发情的叫声)