橘子百科-橘子都知道橘子百科-橘子都知道

进退维谷的意思解释,进退维谷的意思和造句

进退维谷的意思解释,进退维谷的意思和造句 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已(yǐ)久(jiǔ)的“AI热(rè)潮(cháo)”中,各家争相推出的(de)大模型、AI应(yīng)用,都进一步推升了对算力狂(kuáng)热的需求。本周已(yǐ)有报道指出英伟达后续对AI顶级(jí)规格芯片(piàn)需求(qiú)明显看增,紧急向台积电追(zhuī)加(jiā)预(yù)订先进封装产能。

  需求飙(biāo)涨下,英(yīng)伟(wěi)达GPU价格自(zì)然(rán)也是水涨(zhǎng)船高。据集微网消息,有代理商透(tòu)露,英伟达A100价格从去年12月开始上(shàng)涨,截至今年(nián)4月上半月,其5个月(yuè)价格累计涨幅达到37.5%;同期A800价格累计涨幅达20.0%。

  同时,英伟达GPU交货周期也(yě)被拉长,之前拿货周期大约为一个(gè)月,现在基本都(dōu)需要三(sān)个月或更长(zhǎng)。甚至,部分新订单“可能要到12月才能交付”。

  供需的(de)巨大鸿沟面前,在这一情形之下(xià),众多客户也不得不“勒紧腰带”。上述文章(zhāng)指出,国内可用于训(xùn)练AI大模型的(de)A100大(dà)约有4万-5万个,供应相当吃紧,一些云(yún)服务厂(chǎng)商已严格(gé)限制(zhì)内部使用这些(xiē)先进芯片,以将其(qí)保留(liú)至(zhì)需要强力运算(suàn)的任务。

  值得(dé)一(yī)提的是,类似(shì)的事(shì)情(qíng)在微软内部(bù)也早已发(fā)生。3月已有外(wài)媒报道(dào)指出,微软内部陷入AI服务器硬(yìng)件短缺(quē)的窘境,不(bù)得不对AI硬件资源采(cǎi进退维谷的意思解释,进退维谷的意思和造句)取(qǔ)“配(pèi)额(é)供给”机制,限制(zhì)公司内部其(qí进退维谷的意思解释,进退维谷的意思和造句)他(tā)AI工具开发团队的资源用量。

  拉长(zhǎng)时间(jiān)线来(lái)看,有(yǒu)GPU业(yè)内人(rén)士指出(chū),实际上从去年6月起,英伟达就已宣布上调A100价格,涨幅20%左(zuǒ)右,渠道商在加紧囤(dùn)货。至于英伟达(dá)A800,在(zài)ChatGPT火爆之前就已出(chū)现涨价,但反映到市场则有(yǒu)一定的滞后性,赶上ChatGPT爆火这一(yī)时间点,更放大了这一现(xiàn)象(xiàng)。

  “英伟达GPU涨(zhǎng)价与ChatGPT有一定的关联性,且交货周期也(yě)受(shòu)到(dào)了连(lián)带的影响,导致市(shì)场(chǎng)上出现了众(zhòng)多炒卡的行为。”

  此外(wài),在海(hǎi)外电(diàn)商平台上,英伟达新(xīn)旗舰(jiàn)级(jí)GPU H100的价格在4月中旬就已炒到了超过(guò)4万美元。

  随着如今各家科技巨头争(zhēng)相推出自(zì)家大模(mó)型,GPU需(xū)求量仍在持续(xù)攀(pān)升。OpenAI指出,AI大(dà)模型要持续(xù)取得突破,所需要消(xiāo)耗(hào)的计(jì)算资源每3~4个月(yuè)就要翻一(yī)倍,资金也需(xū)要通过指数级增长获得匹配(pèi)。

  据财通证(zhèng)券(quàn)测(cè)算,2023/2024/2025年大模型(xíng)有望为(wèi)GPU市场贡献69.88/166.2/209.95亿(yì)美元(yuán)增量。

  其中在训练端,以目前主流的训练端GPU英伟达A100测(cè)算,假设ASP为1万美元(yuán),2023/2024/2025年全(quán)球训练端GPU需(xū)求市场规模(mó)预计分别为0.74/2.00/4.07亿美(měi)元;

  在推理(lǐ)端,以目前英伟达用于推理端计算的A10测算,假设ASP为(wèi)2800进退维谷的意思解释,进退维谷的意思和造句美元,2023/2024/2025年全球推理(lǐ)端GPU需求市(shì)场规模预计分别为69.14/164.2/205.88亿美元。

  业内人士也表示(shì),AI大模型(xíng)训(xùn)练成本之(zhī)一(yī)是(shì)基础算力(lì),大(dà)概需要(yào)384-3000块左右(yòu)的A100才能基本(běn)满足要求,如(rú)果价格持续上涨(zhǎng),无论是互联网、AI大厂、还是创业新贵,要追加的投(tóu)入都可能远超当初。

未经允许不得转载:橘子百科-橘子都知道 进退维谷的意思解释,进退维谷的意思和造句

评论

5+2=