英伟达推含256个GPU的AI超级计算机_全球观天下

雷递网 乐天 5月29日

英伟达（NVIDIA）创始人兼首席执行官黄仁勋日前发布为企业提供超强AI性能的DGX GH200 大内存 AI 超级计算机。英伟达称，通过NVIDIA NVLink，这台超级计算机将多达256块 NVIDIA GH200 Grace Hopper 超级芯片整合到一个数据中心大小的GPU中。

黄仁勋宣布，GH200超级芯片现已全面投产，将节能的NVIDIA Grace CPU 与高性能的 NVIDIA H100 Tensor Core GPU 整合到一个超级芯片中。

【资料图】

DGX GH200提供1 exaflop 性能与144 TB共享内存，比单个NVIDIA DGX A100 320GB系统高出近500倍。这让开发者可以构建用于生成式AI聊天机器人的大型语言模型、用于推荐系统的复杂算法，以及用于欺诈检测和数据分析的图形神经网络。

谷歌云、Meta和微软是首批有望接入DGX GH200的企业，它们将探索这台超级计算机在生成式AI工作负载方面的能力。

NVIDIA正在建造自己的大规模AI超级计算机NVIDIA Helios。这台超级计算机将于今年上线，它将使用四个与NVIDIA Quantum-2 InfiniBand网络相连的DGX GH200系统，可提供训练大型AI模型所需要的数据吞吐量。

黄仁勋宣布，将有超过400种采用NVIDIA 最新版本Hopper，Grace，Ada Lovelace和BlueField架构的系统上市。这些系统将被用于解决AI，数据科学和高性能计算领域的复杂挑战。

黄仁勋表示，“加速计算和AI标志着计算的革新”。为了展示它的力量，他展示了一个文本提示，为他的主题演讲生成一首主题曲，可以像任何卡拉 OK 曲调一样演唱。

“我们现在正处于一个全新计算时代的转折点，加速计算和 AI 已经被世界上几乎所有的计算和云公司所采用。” 他表示，如今有 40,000 家大公司和 15,000 家初创公司使用 NVIDIA 技术，仅去年一年，CUDA 软件的下载量就达到 2,500 万次。

Grace Hopper推动5G/6G发展

黄仁勋表示，NVIDIA正在助力塑造未来5G、 6G 无线和视频通信。演讲中展示通过Grace Hopper 上运行的 AI ，将当今的 2D 视频通话转变为更逼真的3D体验。

黄仁勋宣布， NVIDIA正在与电信巨头软银合作，在日本建立分布式数据中心网络，为提供新型服务奠定基础。它将在通用云平台上提供 5G 服务和生成式AI应用程序。

这些数据中心将使用模块化MGX系统中的NVIDIA GH200超级芯片和NVIDIA BlueField-3 DPU以及NVIDIA Spectrum以太网交换机提供5G协议所需的高精度计时。该平台将通过提高频谱效率来降低成本和能耗。

这些系统将帮助软银探索5G和6G在自动驾驶、AI工厂、增强和虚拟现实、计算机视觉以及数字孪生方面的应用，未来甚至可能被用于3D视频会议、全息通信等。

加速云网络

黄仁勋发布了专门用于提高以太网AI云性能和效率的网络平台NVIDIA Spectrum-X。该平台将Spectrum-4以太网交换机与BlueField-3 DPU和软件相结合，相较于传统的以太网结构，AI性能和电源效率提高了1.7倍。

生成式AI也影响着人们玩游戏的方式。

黄仁勋发布了NVIDIA Avatar Cloud Engine（ACE）游戏开发版。开发者可以使用这项代工服务构建和部署定制化的语音、对话和动画AI模型。该引擎将赋予非玩家角色（NPC）对话技能，使他们能够以进化出的逼真个性回答问题。

NVIDIA ACE游戏开发版包含NVIDIA Riva等AI基础模型，可检测并转录玩家的语音。

NVIDIA NeMo可根据文本提示生成定制化的回答并通过NVIDIA Omniverse Audio2Face实现动画化。

使用AI加速装配线

例如，在全球生产笔记本电脑、智能手机等300种产品的和硕，正使用Omniverse、Isaac Sim和Metropolis创建虚拟工厂。该公司能够在虚拟工厂中的模拟环境测试各种流程，为其节省了时间和成本。

和硕还使用NVIDIA DeepStream软件开发套件开发智能视频应用，将吞吐量提高了10倍。

富士康工业互联网是这家全球超大技术制造商的服务部门，该部门携手NVIDIA Metropolis合作伙伴，一起实现其电路板质控检查点重要环节的自动化。

黄仁勋在一段视频中展示了广达的子公司Techman Robot如何使用NVIDIA Isaac Sim优化其生产线上的检测。实际上，这是在使用模拟机器人，来训练机器人制造出更好的机器人。

黄仁勋还发布了一个新平台，以支持下一代自主移动机器人 (AMR) 车队。 Isaac AMR 可以帮助模拟、部署和管理自主移动机器人车队。

———————————————

雷递由媒体人雷建平创办，若转载请写明来源。