“AI热潮”最(zuì)大赢家之一、英伟达蟑螂在床上爬了还能睡吗，蟑螂在床上爬了还能睡吗背后的那个(gè)身穿黑色皮衣的(de)男人又(yòu)来(lái)了。

　　前脚才交(jiāo)出(chū)亮(liàng)眼业绩狂(kuáng)拉股(gǔ)价，英伟(wěi)达CEO黄仁勋后脚就在(zài)昨日的COMPUTEX大会上宣布，“我们已到达(dá)生成式(shì)AI引(yǐn)爆点。从此，全(quán)世(shì)界的(de)每个角落，都会有计算(suàn)需求(qiú)。”

　　如今英伟达(dá)掌(zhǎng)握着全球多家科技公司“算力命脉”，而在这(zhè)场大会上(shàng)，黄仁勋激情(qíng)演讲2个小时，甩出了多(duō)项重磅新发布，包括算力(lì)“杀(shā)器”DGX GH200超级计算机、针对游戏的ACE代工服务、MGX服务器规范等内容。

　　算力“杀器”：DGX GH200超级(jí)计(jì)算(suàn)机+GH200超级(jí)芯(xīn)片

　　先看“集(jí)成了英伟达最先进加(jiā)速计算和网络技术”的DGX GH200人工智能超级计算机。

　　这款(kuǎn)超算专为大规模生成式(shì)AI的(de)负载所(suǒ)设计，由(yóu)256块GH200超(chāo)级芯片组成(chéng)，拥有1 exaflop超(chāo)凡AI性(xìng)能(néng)、144TB内存(cún)（是英伟(wěi)达目前DGX A100系统的近500倍(bèi)）、150英(yīng)里光纤、2000多个风扇。

　　DGX GH200重达40000磅（约合(hé)18143千克(kè)），堪(kān)比四(sì)只成(chéng)年大象的体重。

　　预计DGX GH200将于今年年底投(tóu)入问世(shì)，英伟达暂未(wèi)公布价格，而谷歌云、Meta与微(wēi)软将(jiāng)是首批(pī)用户。

　　同时，英伟达也正在(zài)打造自(zì)家基于DGX GH200的大(dà)型AI超(chāo)级计算机NVIDIA Helios，以支持(chí)其(qí)研究(jiū)和开(kāi)发团队的工作。其中采(cǎi)用4个DGX GH200系统、1024颗Grace Hopper超级(jí)芯片，每个都将与英(yīng)伟达(dá)Quantum-2 InfiniBand网络连接(jiē)，带(dài)宽高达400Gb/s，将于今年年底上线。

　　值得一提的是，黄仁勋(xūn)透露(lù)，DGX GH200集成(chéng)的GH200 Grace Hopper超级(jí)芯片已进入(rù)全(quán)面生产。

　　“拉(lā)踩”CPU：成(chéng)本、功耗(hào)、处理数据量(liàng)不(bù)如GPU

　　在(zài)本次(cì)大会上，黄仁勋(xūn)还“拉踩”了一波CPU。他从功(gōng)耗、处理数据蟑螂在床上爬了还能睡吗，蟑螂在床上爬了还能睡吗量等(děng)方面，指出使用GPU胜(shèng)过(guò)CPU。

　　举例来(lái)说，花费1000万美元，可以建设一个(gè)有(yǒu)960颗CPU的数据中(zhōng)心，其(qí)可(kě)处理1X LMM（大(dà)语言模型）数(shù)据量，需(xū)要11GWh功耗(hào)；

　　同样成(chéng)本下，也可以建设一(yī)个有48个GPU的(de)数(shù)据中(zhōng)心，其可处理(lǐ)44X LLM数据量(liàng)，仅需要(yào)3.2GWh功耗。

　　若只(zhǐ)想处理1X LMM数据(jù)量，则只(zhǐ)需40万美元(yuán)，便可拥有(yǒu)一(yī)个搭载2个GPU、功耗仅0.13GWh的数据中心。

　　“买越(yuè)多，省越多（The more you buy， the more you save）。”黄(huáng)仁(rén)勋再次表示。

蟑螂在床上爬了还能睡吗，蟑螂在床上爬了还能睡吗　　同时，他(tā)也(yě)列出了数据中(zhōng)心(xīn)成本(běn)公(gōng)式：数(shù)据(jù)中心总持有成本=f[成(chéng)本（芯片、系统、硬件生态系统）、吞吐(tǔ)量(liàng)（GPU、Algo软件、网络(luò)、系统软件、软件生态系统）、使用(yòng)率（Algo Lib， 软件生(shēng)态(tài)系统）、采(cǎi)购运(yùn)营、生(shēng)命周期最佳化、电力]。

　　ACE代工服务：用(yòng)AI激活NPC生命

　　游戏一直是备受(shòu)关注(zhù)的一大AI应(yīng)用落地领域。英(yīng)伟达也在(zài)大会上宣布，推出面向游戏的定制AI模型代工(gōng)服务NVIDIA Avatar Cloud Engine（ACE）。

　　它能(néng)赋予(yǔ)非玩家(jiā)角色（NPC）更智(zhì)能(néng)且不断进化的(de)对(duì)话技能(néng)，中间件、工具和游戏(xì)开发者可使用它(tā)来构建和部(bù)署定制(zhì)的语音、对(duì)话和(hé)动画AI模型。

　　其中包括：英伟(wěi)达NeMo，使用专有数(shù)据构建(jiàn)、定制和部署语言(yán)模型(xíng)；英(yīng)伟达Riva，用(yòng)于自动语音识别和文本转语音实(shí)现实时语音对话；英伟达Omniverse Audio2Face，用于(yú)即时(shí)创建游戏角色(sè)表情动画，以匹配任何语音(yīn)轨道。

　　开发人员(yuán)可选择集(jí)成整(zhěng)个NVIDIA ACE for Games解决方案，也可仅使(shǐ)用(yòng)需(xū)要的组件。

　　新参考工(gōng)作流程：帮助(zhù)建(jiàn)设数字化智能工厂

　　黄(huáng)仁(rén)勋(xūn)表示(shì)，全球电子制造商正在使用(yòng)一种全新(xīn)的综合(hé)参考工作流程推进工业数字化(huà)工(gōng)作，该工作流程结合(hé)了英伟达用于生成(chéng)式AI、3D协作、仿真和自主机(jī)器的技术(shù)，包括：

　　英(yīng)伟达(dá)Omniverse，其连接了顶级计算机辅助设计应用以及生成式AI的API和(hé)前(qián)沿框架(jià)；用于模拟和测试机器(qì)人的(de)英伟达Isaac Sim应(yīng)用程序；英(yīng)伟达Metropolis视觉AI框架(jià)，用于自动光学检测。

　　同时(shí)，黄仁勋现场展示了一个(gè)完全数(shù)字化的智能工厂(chǎng)的演示。

　　目前(qián)富士康工业互联网、宜鼎(dǐng)国际、和硕、广达和(hé)纬创正在使用这(zhè)一参考工作流(liú)程，具体用(yòng)例包括电路板质保(bǎo)检测点自动(dòng)化(huà)、光(guāng)学(xué)检测(cè)自(zì)动化、建设(shè)虚拟工(gōng)厂、模拟(nǐ)协作机器(qì)人、构建及运营数字孪生等。

　　MGX服务器规范：快速高效构(gòu)建百余种服(fú)务器配置

　　英伟达(dá)发布(bù)NVIDIA MGX服务器规范，为系统制(zhì)造商提供模块化(huà)参考架构，满足(zú)各(gè)种规模的数据中心需求。系统(tǒng)制(zhì)造商可使用它快(kuài)速(sù)且经济高(gāo)效地构建100多种服(fú)务器配置，以适应广泛的AI、HPC及NVIDIA Omniverse应用。

　　MGX支持英伟达全系列GPU、CPU、DPU和(hé)网络适配器、各种(zhǒng)x86、完(wán)整软件堆(duī)栈(zhàn)及Arm处(chù)理器，还可集成到(dào)云和企业数据中心(xīn)中。

　　华硕(shuò)、和硕、QCT、超(chāo)微(wēi)（Supermicro）等都将(jiāng)采用MGX构建下一(yī)代(dài)加速计算机(jī)，可将开(kāi)发(fā)成(chéng)本削减多达3/4，并(bìng)将开发时间(jiān)缩短2/3至仅需6个月。

　　其中(zhōng)，QCT和超微基于MGX的设计将(jiāng)于8月(yuè)面(miàn)世(shì)。超微(wēi)昨(zuó)日公布的ARS-221GL-NR系统(tǒng)将采用Grace CPU，而QCT的S74G-2U系(xì)统将采用(yòng)Grace Hopper。

　　推出Spectrum-X网络平台(tái) 构建超(chāo)大规模(mó)生(shēng)成式(shì)AI超级计算机Israel-1

　　另外(wài)，黄仁勋宣布推出NVIDIA Spectrum-X网络平台，旨在(zài)提高基于以太网的AI云的性能(néng)和(hé)效率。

　　相比(bǐ)传统(tǒng)以太(tài)网(wǎng)结构，Spectrum-X可实现1.7倍的(de)整体(tǐ)AI性能和(hé)能(néng)效提(tí)升(shēng)，并具有高(gāo)度通(tōng)用(yòng)性(xìng)，可用于各种AI应用。它(tā)使用完(wán)全基于标(biāo)准的以太网(wǎng)，并(bìng)可与基于(yú)以太网的堆栈(zhàn)互操作。该平(píng)台支持256个200Gb/s端口，通过单个交换(huàn)机连接，或在两(liǎng)层leaf-spine拓扑(pū)中提供16000个(gè)端口，以(yǐ)支持(chí)AI云增长和(hé)扩展，在保持性能(néng)的(de)同时最大限度减少网络延迟。

　　全球领(lǐng)先云计(jì)算提供商正(zhèng)在采用Spectrum-X平台扩(kuò)展(zhǎn)生成式AI服务，而Spectrum-X、Spectrum-4交(jiāo)换机、BlueField-3 DPU等已在戴尔、联(lián)想等系(xì)统(tǒng)制造商(shāng)处提供。

　　此外，作为Spectrum-X参考设计的蓝图和测试平台，英(yīng)伟达正构建(jiàn)一台(tái)超大规模生成式AI超(chāo)级计算机Israel-1。这台AI超(chāo)算价值(zhí)数亿美元，将采用戴尔PowerEdge XE9680服务器、英(yīng)伟(wěi)达HGX H100超级(jí)计算平台、内置BlueField-3 DPU和Spectrum-4交换(huàn)机的Spectrum-X平台。

　　结语(yǔ)

　　“40年来，我们(men)创造(zào)了PC、互联网、移动、云，现在是人工(gōng)智能时代。你会创造什(shén)么？不管是什么，都要(yào)像(xiàng)我们一(yī)样(yàng)追赶(gǎn)它(tā)。要奔跑，不要(yào)走。要(yào)么为了食物奔跑，要么(me)作为食物奔跑。”

　　在5月27日的台湾大(dà)学发(fā)表了毕业(yè)典礼演讲上，黄仁(rén)勋再次(cì)强调了掌握(wò)AI技术的重要(yào)性：很多人担心，AI会(huì)抢走自己的工作。但真正会抢(qiǎng)走你饭碗的，是掌握了AI技术的人。

　　他表示(shì)，从各方面来看(kàn)，AI的兴盛是(shì)计算机产(chǎn)业的(de)再(zài)生契机。在下个十年，我们的(de)产业将使用新型(xíng)AI电脑，取(qǔ)代价值万亿美元(yuán)的传统(tǒng)电脑。

　　而从昨(zuó)日(rì)大会上(shàng)黄仁勋的展示中，人工(gōng)智能时代的未来(lái)轮廓似(shì)乎已逐渐浮现。

未经允许不得转载：橘子百科-橘子都知道 蟑螂在床上爬了还能睡吗，蟑螂在床上爬了还能睡吗