橘子百科-橘子都知道橘子百科-橘子都知道

天门中断楚江开的楚江指的是什么意思,天门中断楚江开的楚江指的是什么风景名胜

天门中断楚江开的楚江指的是什么意思,天门中断楚江开的楚江指的是什么风景名胜 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热潮”最大赢家之一、英伟达背后的那(nà)个身穿黑(hēi)色皮(pí)衣(yī)的男人又(yòu)来了。

  前脚才(cái)交出亮眼业绩狂拉股(gǔ)价,英伟达CEO黄仁勋后脚就在昨日的(de)COMPUTEX大(dà)会上宣(xuān)布(bù),“我们已(yǐ)到达生成(chéng)式(shì)AI引爆点(diǎn)。从此,全(quán)世界(jiè)的每个角(jiǎo)落,都会有计算(suàn)需求。”

  如(rú)今英(yīng)伟达(dá)掌握(wò)着全球多家科技公(gōng)司“算力命脉”,而在这场大会上,黄仁勋(xūn)激情演讲2个小时,甩出了多(duō)项(xiàng)重磅新发(fā)布,包(bāo)括算(suàn)力(lì)“杀器”DGX GH200超级计(jì)算(suàn)机、针对游(yóu)戏的ACE代(dài)工(gōng)服(fú)务、MGX服务器规范等(děng)内容(róng)。

  算力(lì)“杀器”:DGX GH200超(chāo)级计算机(jī)+GH200超(chāo)级芯片

  先看“集成(chéng)了英(yīng)伟达最先(xiān)进加速计算(suàn)和网(wǎng)络技术”的DGX GH200人(rén)工智能(néng)超级计算机

  这(zhè)款(kuǎn)超算专为大(dà)规模生成式AI的负载所(suǒ)设计(jì),由256块GH200超级芯(xīn)片组成,拥有1 exaflop超凡(fán)AI性能、144TB内存(是英伟达目前DGX A100系统(tǒng)的近500倍)、150英里光纤、2000多个风扇。

  DGX GH200重达(dá)40000磅(约合18143千克),堪比(bǐ)四只成年(nián)大象(xiàng)的体重。

  预(yù)计(jì)DGX GH200将(jiāng)于今年年底(dǐ)投入问世,英伟(wěi)达(dá)暂未公布价格,而谷歌云(yún)、Meta与微(wēi)软将是(shì)首批用户

  同时(shí),英伟达也正(zhèng)在(zài)打造自家(jiā)基于DGX GH200的(de)大型(xíng)AI超级计(jì)算机(jī)NVIDIA Helios,以支持其研究和开发团队的工作。其中采(cǎi)用(yòng)4个DGX GH200系统、1024颗(kē)Grace Hopper超级芯片,每(měi)个(gè)都将与(yǔ)英伟达Quantum-2 InfiniBand网络连接,带宽高(gāo)达400Gb/s,将于(yú)今年(nián)年底上线(xiàn)。

  值(zhí)得(dé)一提的是(shì),黄仁(rén)勋透露,DGX GH200集(jí)成的(de)GH200 Grace Hopper超级芯片已进入全面生产

  “拉踩”CPU:成本、功耗(hào)、处(chù)理数据量(liàng)不如GPU

  在(zài)本次大会上,黄仁勋(xūn)还“拉(lā)踩”了一波CPU。他(tā)从功耗、处理数(shù)据量等(děng)方面,指出使用(yòng)GPU胜过CPU。

  举例(lì)来说,花费(fèi)1000万美元(yuán),可以建(jiàn)设一个(gè)有960颗CPU的(de)数据中心,其可处理(lǐ)1X LMM(大语言模(mó)型)数据量,需要(yào)11GWh功耗;

  同样成本下,也(yě)可以建设一个(gè)有(yǒu)48个GPU的数据中心(xīn),其可处理44X LLM数据(jù)量,仅需(xū)要3.2GWh功耗(hào)。

  若(ruò)只想处(chù)理1X LMM数据量,则只需(xū)40万美元(yuán),便可拥(yōng)有(yǒu)一个(gè)搭载2个(gè)GPU、功耗仅0.13GWh的数据中(zhōng)心。

  “买越多,省越多(The more you buy, the more you save)。”黄仁勋再次表示(s天门中断楚江开的楚江指的是什么意思,天门中断楚江开的楚江指的是什么风景名胜hì)。

  同(tóng)时,他也列出(chū)了数据中心成本公式:数据(jù)中心(xīn)总(zǒng)持有成本=f[成本(芯片、系统、硬件生态系(xì)统)、吞吐量(GPU、Algo软(ruǎn)件(jiàn)、网络、系统软(ruǎn)件、软件生态系统)、使用(yòng)率(Algo Lib, 软(ruǎn)件生(shēng)态系统)、采购运(yùn)营、生命(mìng)周期最(zuì)佳化、电(diàn)力]

  ACE代(dài)工服务:用(yòng)AI激活NPC生命

  游戏一直是备受(shòu)关注的一(yī)大AI应用(yòng)落(luò)地领域。英伟达也(yě)在大(dà)会上宣布,推出(chū)面向游(yóu)戏的定制AI模(mó)型代工服(fú)务NVIDIA Avatar Cloud Engine(ACE)

  它(tā)能赋予非玩家角色(sè)(NPC)更智能且不(bù)断进化(huà)的对话(huà)技能(néng),中(zhōng)间件、工具(jù)和游戏开发者(zhě)可(kě)使用它来构建和部署定制(zhì)的语音、对(duì)话和动画AI模型

  其中包括:英伟达NeMo,使用专(zhuān)有数据构建、定制和部(bù)署语言模型;英伟(wěi)达Riva,用于自(zì)动语(yǔ)音识别和文本转语音(yīn)实现实时语(yǔ)音对(duì)话;英伟达(dá)Omniverse Audio2Face,用于即时创建游戏角色表情(qíng)动画,以匹配任(rèn)何(hé)语音轨道。

  开(kāi)发人员可(kě)选择集成整个NVIDIA ACE for Games解(jiě)决(jué)方案,也可仅使用需要的组件。

  新参考工(gōng)作(zuò)流程(chéng):帮助建设(shè)数字化智(zhì)能(néng)工厂

  黄仁(rén)勋表示,全球(qiú)电子制造商正在使用一种全新的综合参考(kǎo)工作流程推进工(gōng)业数(shù)字化(huà)工(gōng)作,该工作流程结(jié)合(hé)了(le)英伟达用于(yú)生成式AI、3D协作、仿真和自主(zhǔ)机器的技(jì)术,包括(kuò):

  英伟(wěi)达Omniverse,其连(lián)接(jiē)了顶级计算(suàn)机(jī)辅助设计应用以(yǐ)及生成式AI的API和前沿框(kuāng)架;用于模拟和测试机(jī)器人的(de)英(yīng)伟达Isaac Sim应用(yòng)程序;英伟达Metropolis视觉(jué)AI框架,用于自动(dòng)光(guāng)学检测。

  同时(shí),黄仁勋现场展示了一个完全数字(zì)化的智(zhì)能工厂(chǎng)的演示。

  目前(qián)富(fù)士康工业互联网(wǎng)、宜鼎(dǐng)国际、和硕、广(guǎng)达(dá)和纬(wěi)创正在使用这一参考工作流程,具体用(yòng)例包(bāo)括电(diàn)路板质保检测(cè)点自(zì)动化(huà)、光学检(jiǎn)测自动化(huà)、建设(shè)虚(xū)拟(nǐ)工厂、模拟协作机(jī)器人、构建及运营数字孪生(shēng)等(děng)。

  MGX服务器规范:快(kuài)速高效构建百余种(zhǒng)服务器配置

  英伟达发布(bù)NVIDIA MGX服务器规范,为系统制(zhì)造商提供模块化(huà)参考架构,满足各种规模的数据中心需求。系统制造商(shāng)可(kě)天门中断楚江开的楚江指的是什么意思,天门中断楚江开的楚江指的是什么风景名胜使(shǐ)用(yòng)它快速且经(jīng)济高效地构(gòu)建100多种服务器配置(zhì),以适应广泛(fàn)的AI、HPC及NVIDIA Omniverse应用(yòng)。

  MGX支持(chí)英(yīng)伟达全系列GPU、CPU、DPU和(hé)网络适配器、各种x86、完整软件(jiàn)堆栈及Arm处理(lǐ)器,还(hái)可集成(chéng)到云(yún)和企业数据中心(xīn)中。

  华(huá)硕、和硕(shuò)、QCT、超(chāo)微(wēi)(Supermicro)等都将采用(yòng)MGX构建下一代加速计算机,可将开发成本削(xuē)减多达3/4,并将开(kāi)发(fā)时间缩短(duǎn)2/3至仅(jǐn)需6个月

  其(qí)中,QCT和超微基于MGX的设计将(jiāng)于8月面世。超微昨日公布的ARS-221GL-NR系统将采用Grace CPU,而(ér)QCT的S74G-2U系统将采(cǎi)用(yòng)Grace Hopper。

  推出Spectrum-X网络平台 构(gòu)建(jiàn)超(chāo)大规模(mó)生成式AI超级计算机Israel-1

  另(lìng)外,黄仁(rén)勋宣布推(tuī)出NVIDIA Spectrum-X网络(luò)平(píng)台,旨在(zài)提高基于以太网的AI云的性(xìng)能和效率。

  相(xiāng)比传统(tǒng)以太网结构,Spectrum-X可(kě)实现(xiàn)1.7倍的整体AI性能和能(néng)效提升,并具有高(gāo)度通用性,可用于各种(zhǒng)AI应用。它使用完全(quán)基于(yú)标准的以太网,并可与基(jī)于以太网的堆(duī)栈(zhàn)互操作(zuò)。该平台(tái)支持256个200Gb/s端(duān)口,通过单个交换机连接,或在两层leaf-spine拓扑中提供16000个端口,以支(zhī)持AI云增(zēng)长(zhǎng)和扩展,在保持(chí)性能(néng)的同时最大限度减少网络延迟。

  全球领先云计算提(tí)供商(shāng)正在采用Spectrum-X平台扩展生成(chéng)式AI服务,而Spectrum-X、Spectrum-4交换机、BlueField-3 DPU等已在戴尔、联想等系统(tǒng)制造商处(chù)提供。

  此外,作为(wèi)Spectrum-X参考设(shè)计的蓝图和测试平(píng)台,英伟达正构建一台超(chāo)大规模生成式AI超级计算(suàn)机Israel-1。这台AI超算价值数亿美(měi)元,将(jiāng)采用戴尔PowerEdge XE9680服(fú)务器、英伟(wěi)达HGX H100超(chāo)级计算平台、内(nèi)置BlueField-3 DPU和Spectrum-4交换机的Spectrum-X平台(tái)。

  结语(yǔ)

  “40年(nián)来(lái),我们创造了PC、互联网(wǎng)、移动、云,现在是人工智能时代。你会(huì)创造什(shén)么?不(bù)管是什(shén)么(me),都要像我们(men)一(yī)样追赶它(tā)。要奔跑(pǎo),不要走。要么为了食物奔跑,要么作为(wèi)食物奔跑。”

  在(zài)5月27日(rì)的台湾大学发(fā)表了毕业典礼演(yǎn)讲(jiǎng)上,黄(huáng)仁勋再(zài)次强调了掌握AI技术的重要性:很多人担心(xīn),AI会抢走自己的工作。但真正会抢走(zǒu)你饭碗的,是掌握了(le)AI技术(shù)的人(rén)。

  他表示,从各方面(miàn)来看,AI的(de)兴盛是计算机产业的再生(shēng)契机。在下个十年,我(wǒ)们的(de)产业(yè)将使用新型(xíng)AI电脑,取代价值(zhí)万亿(yì)美元的传统(tǒng)电(diàn)脑(nǎo)。

  而(ér)从(cóng)昨日大会上黄仁勋的(de)展示中,人工智能时代(dài)的未来轮廓(kuò)似乎已逐(zhú)渐浮现。

未经允许不得转载:橘子百科-橘子都知道 天门中断楚江开的楚江指的是什么意思,天门中断楚江开的楚江指的是什么风景名胜

评论

5+2=