NVIDIA GH100 Hopper旗舰GPU将是有史以来最大的GPU
【锚思科技讯】尽管NVIDIA在为Hopper GPU申请商标的时候遇到了一些问题,但这并没有影响到GH100芯片的开发。NVIDIA GH100 GPU是下一代旗舰数据中心芯片,尺寸约为1000 mm2 。
目前,最大的GPU是英伟达安培GA100,826平方毫米。如果传闻是正确的,那么英伟达的Hopper GH100将成为有史以来最大的GPU设计,尺寸约为1000mm2,轻松超过目前的monster GPU至少100mm2。
但这还不是全部,这个面积只是针对单个GH100 GPU芯片的,我们听说Hopper将是NVIDIA的第一款MCM芯片设计,因此考虑到我们在同一个插入器上至少有两个Hopper GH100 GPU,仅芯片尺寸就将达到2000mm2。所有这一切都意味着,考虑到它将搭载多个HBM2e堆栈和其他连接,插入器将比我们目前看到的要大得多。然而,Greymon55表示Hopper将继续采用单片设计,因此最终的芯片设计将是什么仍有待观察。
根据之前的信息,NVIDIA的H100加速器将基于MCM解决方案,并利用台积电的5nm工艺节点。Hopper应该有两个下一代GPU模块,所以我们总共要看288个SM单元。
我们还不能给出内核数量的详细信息,因为我们不知道每个SMs中的内核数量,但如果每个SMs的内核数量保持在64个,那么我们将获得18432个内核,比完整的GA100 GPU配置多2.25倍。英伟达还可以在其Hopper GPU中使用更多FP64、FP16和Tensor内核,这将极大地提高性能。这将是与英特尔的Ponte Vecchio竞争的必要条件,该公司预计将采用1:1的FP64。
最终配置很可能会在每个GPU模块上启用144个SM单元中的134个,因此,我们可能会看到一个GH100芯片在运行。
NVIDIA讨论了基于下一代架构的两个领域专用COPA GPU,一个用于HPC,一个用于DL。HPC采用了一种非常标准的方法,包括MCM GPU设计和相应的HBM/MC+HBM(IO)芯片,但DL正是人们开始感兴趣的地方。DL在一个与GPU模块互连的完全独立的芯片上拥有一个巨大的缓存。
各种型号的LLC(末级缓存)容量高达960/1920 MB,HBM2e DRAM容量高达233 GB,带宽高达6.3 TB/s。这些都是理论上的,但鉴于NVIDIA现在已经讨论过它们,我们可能会在GTC 2022的全面揭幕中看到这种设计的型号。