领先几光年!NVIDIA CPU+GPU超级芯片终于量产:144TB内存 |
|
作者:佚名 文章来源:本站原创 点击数: 更新时间:2023/6/2 1:59:39 | 【字体:小 大】 |
环保小作文现在,足足14个月过去了,NVIDIA终于宣布,GH200 Grace Hopper超级芯片已经全面投产,将为复杂AI、HPC工作负载提供澎湃的动力。
欧洲和美国的超大规模云服务商、超算中心,将会成为接入GH200系统的首批客户。
同时,黄仁勋还公布了Grace Hopper的更多细节,尤其是它的CPU、GPU之间使用NVLink-C2C互连技术,总带宽高达900GB/s,相比传统的PCIe 5.0通道超出足足7倍,能够满足要求最苛刻的生成式AI和HPC应用,功耗也降低了超过80%。
Hopper GPU则采用台积电4nm定制工艺,集成多达800亿个晶体管,号称世界上最先进的芯片,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存,支持6144-bit HBM3/2e高带宽内存。
同时,NVIDIA宣布推出一款新型大内存AI超级计算机“DGX GH200”,可用于开发面向生成式AI语言应用、推荐系统和数据分析工作负载的下一代大模型。
同时还有144TB共享内存,相比2020年的上一代DGX A100增大了近500倍。
|
|