NVIDIA 下一代 H100 Hopper GPU 支持 6 堆栈高带宽内存

在即将到来的 GTC 2022 上，NVIDIA CEO 黄仁勋先生将于太平洋标准时间 3 月 22 日上午 8:00 发表主题演讲，很可能带来新一代 Hopper 架构 GPU。这两天，有不少关于Hopper架构GPU的细节被泄露。

根据VideoCardz泄露的图片显示，H100 Hopper GPU 最多支持 6 个高带宽内存堆栈，仍然是单片结构，但其具体规格仍不确定。或许正如传闻的那样，GH202 将采用多芯片模块设计 (MCM) 和先进的 CoWoS 封装。Nvidia 将推出多款基于 GH100 的产品，包括用于 DGX 主板的基于 SXM 的 H100 卡、DGX H100 站，甚至是 DGX H100 SuperPod。

有网友整理了被黑客窃取的信息以及之前流传的信息，总结了H100 Hopper GPU的情况。据称，GH100采用台积电5nm工艺制造，将拥有48MB二级缓存，比安培架构GA100的40MB有所提升，是AMD Instinct MI250(16MB)的三倍。不过与Ada(Lovelace)架构的旗舰芯片AD102的96MB相比，GH100的L2缓存少了一半。

传闻GH100配备8组GPC，每台GPC配备9组TPC，每台TPC有2组SM。如果每组 SM 的 CUDA 核心比例不变，则意味着总共 144 组 SM 和 18432 个 CUDA 核心。而且8组GPC中只有1组有3D引擎，其他7组不会配备。虽然 GH100 配备了 144 组 SM，但应该不会全部启用，Nvidia 预计会禁用 15% 到 20% 的 SM。