橘子百科-橘子都知道橘子百科-橘子都知道

东京是不是日本首都 东京不是日本的首都吗

东京是不是日本首都 东京不是日本的首都吗 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持(chí)续已久的“AI热(rè)潮”中,各家争相推出(chū)的大模型、AI应用(yòng),都进一步推升了对算力(lì)狂热的需求(qiú)。本周已有报(bào)道指出(chū)英伟达(dá)后(hòu)续对AI顶级规格芯(xīn)片需(xū)求明显看(kàn)增,紧急向台积电追加预订先进封(fēng)装(zhuāng)产(chǎn)能。

  需求飙涨下,英(yīng)伟达GPU价格自然也是(shì)水涨船高。据(jù)集(jí)微网消(xiāo)息,有(yǒu)代理商透露,英伟达A100价格从去(qù)年12月开始上涨,截至今(jīn)年4月上半月,其(qí)5个月价(jià)格累(lèi)计涨幅达到37.5%;同期A800价格累计涨幅达20.0%。

  同时,英伟达GPU交货周期也被拉(lā)长,之前拿货周期(qī)大约为(wèi)一个月,现在基(jī)本都需要三个(gè)月或更(gèng)长。甚至,部(东京是不是日本首都 东京不是日本的首都吗bù)分新订单“可能要到(dào)12月(yuè)才(cái)能交付(fù)”。

  供(gōng)需的巨(jù)大鸿沟面前,在这一情形之下,众多(duō)客户也不得不“勒紧(jǐn)腰(yāo)带”。上述(shù)文章指出,国内(nèi)可用于训练AI大模(mó)型(xíng)的A100大约有(yǒu)4万-5万个,供应(yīng)相当(dāng)吃紧,一些云(yún)服务(wù)厂(chǎng)商已(yǐ)严格限(xiàn)制内部使(shǐ)用这些(xiē)先进芯片,以将其(qí)保留至需要(yào)强力(lì)运(yùn)算的任东京是不是日本首都 东京不是日本的首都吗务。

  值得一提的是,类似的事(shì)情在微软内部也早(zǎo)已发生。3月已有外媒报道指出,微软内(nèi)部陷(xiàn)入AI服务器(qì)硬(yìng)件(jiàn)短缺的(de)窘境,不得不(bù)对AI硬件(jiàn)资源(yuán)采取“配额供(gōng)给”机制,限制公司内部(bù)其他(tā)AI工具开发团队的资源用量。

  拉长时(shí)间线(xiàn)来(lái)看,有GPU业内人(rén)士指出,实(shí)际上从(cóng)去年6月起,英伟达(dá)就已(yǐ)宣(xuān)布上调A100价(jià)格,涨幅20%左右,渠(qú)道商(shāng)在加紧囤货。至于英(yīng)伟达A800,在ChatGPT火(huǒ)爆之前(qián)就已出现涨价(jià),但反映到市场则有一定的(de)滞后性(xìng),赶上ChatGPT爆(bào)火这(zhè)一时间(jiān)点,更放大了这(zhè)一现象。

  “英伟达GPU涨价(jià)与ChatGPT有一定的关联性,且交货周期也受到了连(lián)带的影响,导致市(shì)场上出(chū)现(xiàn)了众多炒卡(kǎ)的(de)行为(wèi)。”

  此外,在海(hǎi)外电商平台上(shàng),英伟达新旗舰(jiàn)级GPU H100的价格在4月(yuè)中旬就已(yǐ)炒到(dào)了(le)超过4万美元(yuán)。

  随着如今各(gè)家(jiā)科技巨头争相推出自家大(dà东京是不是日本首都 东京不是日本的首都吗)模型(xíng),GPU需求量仍在(zài)持续攀(pān)升。OpenAI指出,AI大模型要持(chí)续取得突(tū)破,所需要消耗的(de)计算资(zī)源每3~4个(gè)月就要翻(fān)一倍,资金也需(xū)要通过指数级增长获得匹配。

  据(jù)财通证(zhèng)券测(cè)算,2023/2024/2025年大(dà)模型有望为GPU市场贡献(xiàn)69.88/166.2/209.95亿美元增量。

  其中在训练端,以目前主(zhǔ)流(liú)的训练(liàn)端GPU英伟(wěi)达A100测算,假(jiǎ)设ASP为1万美元,2023/2024/2025年全球(qiú)训练端GPU需求市场规模预(yù)计分别为0.74/2.00/4.07亿美元;

  在推理端,以(yǐ)目(mù)前(qián)英(yīng)伟达用于推理端计(jì)算的A10测算,假设ASP为2800美元,2023/2024/2025年全球推理端GPU需求(qiú)市场(chǎng)规模预计分别为69.14/164.2/205.88亿美(měi)元。

  业内人士也表(biǎo)示(shì),AI大模型训练(liàn)成本之(zhī)一是基础算力,大概需(xū)要384-3000块(kuài)左右的A100才(cái)能基本满足要(yào)求,如果价格持续上涨,无论是互联网、AI大厂、还是创业新贵,要追加的投(tóu)入都(dōu)可能远(yuǎn)超当初(chū)。

未经允许不得转载:橘子百科-橘子都知道 东京是不是日本首都 东京不是日本的首都吗

评论

5+2=