天天看点

NVIDIA推出AI以太网和Grace Hopper超级芯片,引爆科技界热潮!

作者:智创狮
NVIDIA推出AI以太网和Grace Hopper超级芯片,引爆科技界热潮!

NVIDIA表示,Spectrum-X以太网交换机通过一种新型拥塞控制实现了“无损”传输。

在台湾省台北市的Computex计算机技术大会上,NVIDIA首席执行官黄仁勋在开幕演讲中发布了一系列新产品,其中包括一种专用于处理人工智能任务中的大量数据的新型以太网交换机。

黄仁勋提出了一个问题,他希望引入一种新的以太网技术,该技术能够与现有的所有设备向后兼容,从而将每个数据中心都转变为一个能够生成人工智能的数据中心。他同时表示,这将是首次将高性能计算的能力引入到以太网市场中。

根据Nvidia的说法,Spectrum-X作为以太网家族的一员,被誉为“全球首个面向人工智能的高性能以太网”。网络高级副总裁Gilad Shainer在媒体发布会上介绍该技术的一个关键特点是,它“不会丢包”(无损传输)。

Nvidia表示,Spectrum-X的第一代产品是Spectrum-4,它被称为“世界上首款专为AI网络设计的每秒传输速率为51Tb的以太网交换机”。该交换机与Nvidia的BlueField数据处理单元(DPU)芯片和Nvidia的光纤收发器配合工作。该交换机可以在公司称,通过128个400Gb以太网端口或64个800Gb端口将数据从端到端进行路由。

黄仁勋在台上举起银色的Spectrum-4以太网交换芯片,指出它是“巨大的”,它由一个90毫米×90毫米的晶片组成,内含一千亿个晶体管,采用台湾半导体制造公司的“4N”工艺技术制造。黄先生表示,该芯片的功耗为500瓦。

NVIDIA推出AI以太网和Grace Hopper超级芯片,引爆科技界热潮!

Nvidia的芯片及其所搭载的交换机有潜力改变以太网市场格局。目前,绝大部分交换机芯片是由芯片制造商Broadcom供应的。这些交换机被销售给网络设备制造商Cisco Systems、Arista Networks、Extreme Networks、Juniper Networks等等。这些公司一直在扩展他们的设备,以更好地处理人工智能流量。

Spectrum-X系列旨在解决数据中心分化成两种形式的问题。其中一种形式被称为"AI工厂",这些设施耗资数亿美元,采用了基于Nvidia的NVLink和Infiniband技术的最强大的GPU,用于进行人工智能训练,为少量大规模工作负载提供服务。

另一个数据中心设施是AI云,它是多租户的,基于以太网,并能同时处理数以百计的工作负载,旨在为客户提供服务。该中心专注于向使用AI技术的消费者提供预测数据,这些数据将由Spectrum-X提供。

Shainer副总裁表示,Spectrum-X能够以最佳方式在网络中传播流量,它采用了一种新的拥塞控制机制。这个机制可以避免网络路由器的内存缓冲区中出现数据包积压。

NVIDIA表示:“全球顶级超大规模数据中心运营商正在采用NVIDIA Spectrum-X,其中包括行业领先的云创新企业。”

他们正在以色列办公区建立一个名为Israel-1的测试计算机,这是一个“生成型AI超级计算机”,采用由H100 GPU和Grace CPU组成的Dell PowerEdge XE9680服务器,通过Spectrum-4交换机传输数据。

NVIDIA推出AI以太网和Grace Hopper超级芯片,引爆科技界热潮!

除了新的以太网技术外,黄仁勋的主题演讲还介绍了公司“DGX”系列的一种新型模型,即DGX GH200,该公司将其宣传为“巨大生成型AI模型的新型大内存AI超级计算机”。

生成型AI是指能够生成更多内容的程序,有时是文本,有时是图像或其他艺术品,例如OpenAI的ChatGPT机器人。

GH200是第一个配备该公司所称的“超级芯片”的系统,该芯片名为Grace Hopper板,它在一个电路板上集成了Hopper GPU和Grace CPU。Grace CPU是基于ARM指令集的CPU,旨在与英特尔和AMD的x86 CPU竞争。

NVIDIA表示,Grace Hopper的第一个版本GH200已经“正式投产”。NVIDIA在新闻稿中表示,“全球超大规模数据中心和超级计算中心在欧洲和美国等地都将可以使用GH200驱动的系统”。

NVIDIA表示,DGX GH200组合了256个超级芯片,以实现1EFLOPS(每秒十亿亿次浮点运算)的计算能力,共享144TB内存。据NVIDIA称,该计算机的性能比2020年发布的原始DGX A100机器快500倍。

继续阅读