新闻资讯
行业动态：英伟达发布GH200超级GPU，打开AI算力产业链星辰大海
发布时间：
2023-06-12 17:08
5月29日，英伟达创始人兼CEO黄仁勋在NVIDIA Computex 2023展前发布会上，正式发布全新GH200 Grace Hopper超级芯片，以及拥有256个GH200超级芯片的DGXGH200超级计算机。
超级芯片GH200已全面投产，谷歌、微软、Meta将率先获得。GH200超级芯片使用了NVLink-c2c互联技术，将一颗基于ARM节能的72核Grace CPU和一颗高性能的英伟达H100 GPU、96GB的HBM3和512GB的LPDDR5X，通过Chiplet工艺集成到同一封装，以提供CPU+GPU一致内存模型，从而不再需要传统的CPU至GPU PCIe连接。GH200超级芯片提供了高达900GB/s的总带宽，为某些内存受限的工作负载提供了巨大优势。相较PCIe5，该芯片将GPU和CPU之间的带宽提高了7倍，将互连功耗减少了5倍以上。黄仁勋表示，GH200 Grace Hopper超级芯片已全面投产，将可为运行复杂的AI和高性能计算工作负载提供动力。谷歌云、Meta和微软将率先获得GH200。
全新NVIDIA Helios超算年底推出，未来GPU数据中心有望替代现有CPU数据中心。DGXGH200是将256块GH200超级芯片组成的超算，拥有高达1EFLOP的算力，以及144TB的共享内存（比上代DGXA100多了近500倍）。此外，英伟达表示正在建造自己的大型AI超级计算机NVIDIA Helios。该超算将配备4个DGXGH200，每个都将通过NVIDIA Quantum-2 InfiniBand 400 Gb / s网络互连，以提高训练大型AI模型的数据吞吐量。未来，GPU有望实现对目前CPU的替代。根据英伟达的配置，以1000万美金成本可建置1个有960颗CPU的数据中心，但它需要11GWh的功率，处理1X大模型的数据量。但同样成本，可建置1个有48个GPU的数据中心，只需3.2GWh的功耗，并可处理44X大模型的数据量。
基于GH200 Grace Hopper超级芯片，英伟达还与软银宣布合作开发新平台，以满足生成式AI和5G/6G应用。同时，软银计划在日本推出新的分布式AI数据中心。据悉，该平台因使用GH200 超级芯片，有望提高应用程序工作负载的性能、可扩展性和资源利用率。
推荐新闻
