NVIDIA 携手全球计算机行业建立 AI 工厂和数据中心

2024年6月5日 11:21 电子工程世界 6200

图片

COMPUTEX — 2024 年 6 月 2 日— NVIDIA 与全球多家领先计算机制造商于今日共同发布一系列采用 NVIDIA Blackwell 架构的系统,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,助力于企业建立 AI 工厂和数据中心,推动新一轮生成式 AI 突破。

NVIDIA 创始人兼首席执行官黄仁勋在其 COMPUTEX 主题演讲中宣布,永擎电子、华硕、技嘉、鸿佰科技、英业达、和硕、QCT、Supermicro、纬创资通和纬颖将使用 NVIDIA GPU 和网络打造云、专用系统、嵌入式和边缘 AI 系统。

“新一轮工业革命已经开始。众多企业和地区正在与 NVIDIA 合作推动价值万亿美元的传统数据中心向加速计算转型,并建造一种新型数据中心——AI 工厂来生产新的商品:人工智能。”黄仁勋表示 ,“从服务器、网络和基础设施制造商到软件开发商,整个行业正在准备使用 Blackwell 来加速各个领域实现 AI 驱动的创新。”

为了满足各类应用的需求,所发布产品配置丰富,涵盖了从单 GPU 到多 GPU、从 x86 到 Grace、从风冷到液冷技术等。

此外,为了加快不同规模和配置的系统开发,NVIDIA MGX™ 模块化参考设计平台加入了对 NVIDIA Blackwell 产品的支持,包括全新 NVIDIA GB200 NVL2 平台,该平台专为主流大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

GB200 NVL2 非常适合用于数据分析等新兴领域,企业每年在这些领域的支出高达数百亿美元。借助 NVLink®-C2C 互连技术带来的高带宽内存性能和 Blackwell 架构中专有的解压缩引擎,较使用 x86 CPU 时数据处理速度可提高最多达 18 倍,能效提高了 8 倍。


适用于加速计算的模块化参考架构

为了满足全球数据中心多样化的加速计算需求,NVIDIA MGX 为计算机制造商提供了一个参考架构,以便其能够以快速且低成本的方式构建超过 100 种的系统设计配置。

制造商首先可根据其服务器机箱选择一种基本的系统架构,然后再根据不同的工作负载选择 GPU、DPU 和 CPU。目前,已有超过 25 家合作伙伴的 90 多套已发布或正在开发中的系统使用了 MGX 参考架构,较去年来自 6 家合作伙伴的 14 套系统有了显著的增加。通过采用 MGX,开发成本大幅降低,较之前最多降低了四分之三,开发时间缩短到仅六个月,较之前减少了三分之二。

AMD 和英特尔都支持 MGX 架构,并首次计划打造基于他们自己 CPU 主机处理器的模块设计,其中包括下一代 AMD Turin 平台和基于 P 核心的第六代英特尔®至强®处理器(原 Granite Rapids)。任何服务器系统厂商都可以借助这些参考设计节省开发时间,并确保设计和性能的一致性。

NVIDIA 的最新平台 GB200 NVL2 也采用了 MGX 和 Blackwell。在横向扩展能力上,采用单一节点设计,就可以支持各种不同的系统配置和网络选项,将加速计算无缝集成到现有的数据中心基础设施中。

GB200 NVL2 现已加入 Blackwell 产品阵容,该阵容涵盖的其他产品还包括 NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell 超级芯片和 GB200 NVL72。


统一的生态系统

NVIDIA 拥有一个全面的合作伙伴生态系统,包括全球领先的半导体制造商和 NVIDIA 代工合作伙伴 TSMC,以及为建造 AI 工厂提供关键组件的全球电子制造商,包括了很多在服务器机架、供电和冷却方案等制造领域的创新成果,这些成果来自安费诺、奇鋐科技(AVC)、Cooler Master、Colder Products Company(CPC)、丹佛斯、台达和光宝科技等公司。

受益于此,现在可以快速开发和部署新数据中心基础设施,满足全球企业的需求,Blackwell 技术、NVIDIA Quantum-2 或 Quantum-X800 InfiniBand 网络平台、NVIDIA Spectrum™-X 以太网平台以及 NVIDIA BlueField®-3 DPU 通过头部系统制造商戴尔科技、慧与和联想等服务器系统进一步加速数据中心的开发和部署。

企业级用户还可以使用包含 NVIDIA NIM™ 推理微服务的 NVIDIA AI Enterprise 软件平台,来创建和运行生产级生成式 AI 应用。


行业拥抱Blackwell

黄仁勋在本次 COMPUTEX 主题演讲中还宣布,各大领先企业正在迅速采用 Blackwell,利用 AI 为自身业务赋能。

台湾地区的一流医疗中心长庚纪念医院计划使用 NVIDIA Blackwell 计算平台推进生物医学研究并加速影像和语言应用,以此改善临床工作流程,提升患者感受。

全球最大电子制造商之一 Foxconn 正计划使用 NVIDIA Grace Blackwell 来开发用于 AI 电动汽车和机器人平台的智能解决方案,以及日益增长的基于语言的生成式 AI 服务,以为其客户打造更加个性化的体验。


合作伙伴荐言

安费诺总裁兼首席执行官 R.Adam Norwitt 表示:“NVIDIA 开创性的 AI 系统需要先进的互连方案,安费诺很高兴能够为其提供关键组件。作为 NVIDIA 庞大生态系统中的重要合作伙伴,我们能够为 Blackwell 加速平台提供非常复杂且高效的互连产品,帮助其提供尖端的性能。”

AVC董事长兼首席执行官沈庆行表示:“AVC 在为 NVIDIA 的产品 - AI 硬件提供高效冷却方案中起着重要作用,如最新的 Grace Blackwell 超级芯片的冷却方案。随着 AI 模型和工作负载的日益增长,可靠的散热管理对于处理密集的 AI 计算至关重要,我们一直与 NVIDIA 携手共进。”

华硕董事长施崇棠表示:“通过在本次 COMPUTEX 上展示的强大服务器产品阵容,华硕正在与 NVIDIA 一同推动企业 AI 到新的高度。借助 NVIDIA 的 MGX 和 Blackwell 平台,我们将为处理用户的训练、推理、数据分析和 HPC 工作负载而量身定制数据中心解决方案。”

Dover Corporation 旗下 CPC 总裁 Janel Wittmayer 表示:“CPC 创新的专用连接器技术使得基于液冷 NVIDIA GPU 的 AI 系统实现了更容易和可靠的连接。在对性能和品质的追求上,我们与 NVIDIA 志同道合,CPC 有能力和专业技术提供关键技术组件,满足 NVIDIA 大幅增长的和持续的需求。我们的连接器是保障温度敏感型产品一致性的关键,这对于在 AI 系统在运行计算密集型任务时尤为重要。我们很高兴能够成为 NVIDIA 生态系统的一部分,这将我们的技术带到了新的应用领域。”

Cooler Master 首席执行官 Andy Lin 表示:“随着加速计算需求的持续增长,使用先进加速器的企业也需要能够有效满足能源标准的解决方案。作为散热管理解决方案的先行者,Cooler Master 正在助力 NVIDIA Blackwell 平台发挥其全部潜能,为用户提供卓越的性能。”

丹佛斯首席执行官 Kim Fausing 表示:“丹佛斯致力于创新、高性能的 Quick Disconnect 技术和流体动力设计,这使我们的连接产品在数据中心实现高效、可靠和安全运行方面发挥了重要作用。作为 NVIDIA AI 生态系统的重要成员,我们通过合作使数据中心能够满足日益增长的 AI 需求,同时最大程度地减少对环境的影响。”

台达董事长兼首席执行官郑平表示:“无处不在的算力需求开启了一个性能加速的新时代。在我们先进的冷却和电源系统中,台达开发出了创新的解决方案,使 NVIDIA Blackwell 平台在保持能效和热效率的同时,又能达到最高的性能水平。”

技嘉副总裁兼总经理李宜泰表示:“技嘉与 NVIDIA 已合作了近三十年,我们一直全力支持 NVIDIA 的各种技术平台,涵盖了 GPU、CPU、DPU 和高速网络。为了让企业在计算密集型工作负载中实现更高的性能与能效,我们将推出一系列搭载 Blackwell 架构的系统。”

鸿海科技集团董事长兼首席执行官刘扬伟表示:“生成式 AI 正在深入改变各行各业,Foxconn 已作好准备,提供前沿解决方案以满足对多样化和高算力的需求。我们不仅在自己的服务器中使用最新的 Blackwell 平台,还为 NVIDIA 提供关键组件,以帮助客户能够更快将产品推向市场。”

英业达总裁蔡枝安表示: “近半个世纪以来,英业达一直深耕设计和制造电子产品和元件,这也是我们公司的立身之本。通过搭载 NVIDIA Grace Blackwell 超级芯片的 NVIDIA MGX 机架式解决方案,我们正在帮助客户达到 AI 能力与性能的新高度。”

光宝科技总裁邱森彬表示:“功率管理和冷却解决方案是建立更绿色环保、更可持续的数据中心的核心。随着NVIDIA Blackwell 平台的发布,光宝科技正在推出多款液冷解决方案,帮助 NVIDIA 的合作伙伴打造出更加高效、环保的未来数据中心。”

广达电脑公司董事长林百里表示: “我们正处在一个由 AI 驱动的世界的中心,创新速度前所未有。NVIDIA Blackwell 不止是一个引擎,更是点燃这场工业革命的火花。当下正值定义下一个生成式 AI 时代之际,广达电脑公司十分高兴能够与 NVIDIA 一起踏上这段精彩的旅程。我们将共同塑造和定义 AI 的一个新篇章。”

Supermicro 总裁兼首席执行官梁见后表示:“凭借我们的积木式架构和机架扩展级液冷解决方案,再加上我们的自主工程能力和每月 5000 个机架的全球产能,Supermicro 能够向全球 AI 工厂快速交付各种基于 NVIDIA AI 平台的、创新变革性的产品。我们的液冷或风冷型高性能系统以机架为单位而设计,并针对搭载 NVIDIA Blackwell 架构的所有产品进行了优化,从而为客户提供无比强大的平台选择,以满足他们对新一代计算的需求。这也是我们朝着未来 AI 所迈出的一大步。”

TSMC 首席执行官魏哲家表示:“TSMC 通过与 NVIDIA 的密切合作,推动半导体极限创新,以实现其 AI 愿景。我们凭借业界领先的半导体制造技术,助力于 NVIDIA 打造出开创性的 GPU产品,当然也包括基于 Blackwell 架构的 GPU。

纬创资通首席执行官林建勋表示:“纬创资通作为 NVIDIA 重要的制造合作伙伴,与 NVIDIA 一起走过了一段精彩纷呈的旅程,共同为客户提供 GPU 计算技术和 AI 云解决方案。现在,我们正在使用 NVIDIA 最新的 GPU 架构和参考设计,比如 Blackwell 和 MGX,将大量新 AI 计算产品快速推向市场。”

纬颖总裁林威远表示:“纬颖专注于满足客户在生成式 AI 时代对海量算力和先进冷却解决方案方面日益增长的需求。凭借基于 NVIDIA Grace Blackwell 和 MGX 平台的最新产品线,我们正在构建优化的机架级液冷型 AI 服务器,专为超大规模云服务提供商和企业高要求的工作负载量身打造。”