橘子百科-橘子都知道橘子百科-橘子都知道

气概和气慨哪个正确些,气概与气概的区别

气概和气慨哪个正确些,气概与气概的区别 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的“AI热潮”中,各家(jiā)争相推(tuī)出(chū)的大(dà)模型、AI应用(yòng),都进一(yī)步推升(shēng)了对算(suàn)力狂热的需求。本周已有报(bào)道(dào)指出英伟达后续对AI顶级规格芯(xīn)片需求(qiú)明显看增(zēng),紧急向台(tái)积电追加(jiā)预订先进封装产能(néng)。

  需求飙涨下,英伟达GPU价格自(zì)然(rán)也是水涨船(chuán)高。据集微网消(xiāo)息,有代理商透(tòu)露(lù),英伟达A100价格从去年(nián)12月(yuè)开始上(shàng)涨,截至今(jīn)年(nián)4月上半月,其(qí)5个月(yuè)价格累计涨幅达(dá)到37.5%;同期A800价(jià)格累计涨幅达20.0%。

  同时(shí),英伟达GPU交(jiāo)货周期也(yě)被拉(lā)长,之(zhī)前(qián)拿货周(zhōu)期大约为(wèi)一个月,现在基本都需(xū)要(yào)三个月或更长。甚至,部分新订单(dān)“可能要到(dào)12月才能交(jiāo)付”。

  供需(xū)的巨大鸿沟(gōu)面(miàn)前,在这一(yī)情形之下,众(zhòng)多客(kè)户也不得不“勒(lēi)紧腰带(dài)”。上气概和气慨哪个正确些,气概与气概的区别述文章指(zhǐ)出(chū),国内可用于训练AI大模(mó)型气概和气慨哪个正确些,气概与气概的区别的A100大约(yuē)有4万-5万个,供应相当吃(chī)紧,一些云服务厂商已严(yán)格限制内部(bù)使用这些先进芯(xīn)片,以将(jiāng)其(qí)保留至(zhì)需要(yào)强力(lì)运算的(de)任(rèn)务。气概和气慨哪个正确些,气概与气概的区别

  值得一提的是(shì),类(lèi)似(shì)的事情在(zài)微软(ruǎn)内(nèi)部也早(zǎo)已发(fā)生。3月已有外媒报道指出,微(wēi)软内部陷入AI服务器(qì)硬件短缺的窘(jiǒng)境(jìng),不得(dé)不(bù)对AI硬件资源采(cǎi)取“配(pèi)额供给”机(jī)制(zhì),限制公司内部(bù)其(qí)他AI工(gōng)具(jù)开发(fā)团队的资(zī)源用量。

  拉(lā)长时间线来看,有(yǒu)GPU业内人(rén)士指出,实际上从去年6月起,英伟达就(jiù)已宣布上调A100价(jià)格,涨幅(fú)20%左右,渠道商在加(jiā)紧(jǐn)囤货。至于英(yīng)伟达(dá)A800,在(zài)ChatGPT火爆之前就已出现涨(zhǎng)价,但反映到市场则有一定(dìng)的滞后性(xìng),赶上ChatGPT爆火这一时间点,更放大了这一现象。

  “英伟达GPU涨价与ChatGPT有一定的(de)关联性(xìng),且交货周期也受到了连带的影响,导致市场上出现(xiàn)了众多炒卡(kǎ)的行为(wèi)。”

  此外,在(zài)海外电商平台上,英伟达(dá)新旗舰级GPU H100的价格在4月中旬就(jiù)已炒到了超过4万美元(yuán)。

  随着如今各家科技巨头争相推(tuī)出自家大模型(xíng),GPU需(xū)求量仍(réng)在(zài)持(chí)续攀升。OpenAI指出,AI大模型要持续(xù)取得突破,所需要消耗的计算资源每3~4个月就要翻一倍,资金也需(xū)要通过指数级增长(zhǎng)获(huò)得(dé)匹配。

  据财通(tōng)证券测算,2023/2024/2025年大模型有(yǒu)望为GPU市(shì)场(chǎng)贡(gòng)献69.88/166.2/209.95亿美元增量。

  其中在训练端,以目(mù)前主流(liú)的训练端GPU英伟(wěi)达A100测算,假设ASP为1万美元,2023/2024/2025年全球(qiú)训练端GPU需求市(shì)场规(guī)模预计(jì)分别为0.74/2.00/4.07亿美(měi)元;

  在推理(lǐ)端,以目前(qián)英伟(wěi)达用于(yú)推理(lǐ)端计算的A10测(cè)算,假设ASP为2800美元,2023/2024/2025年全(quán)球推理端GPU需求市(shì)场规模预(yù)计分别为(wèi)69.14/164.2/205.88亿美元。

  业内人士也表(biǎo)示,AI大(dà)模型训练成本之一是基础算力,大(dà)概需要384-3000块左右(yòu)的A100才能基本满足(zú)要求,如果价(jià)格持续上涨,无论是互联(lián)网、AI大厂、还是创业新(xīn)贵(guì),要追加的投入都可(kě)能远超当初。

未经允许不得转载:橘子百科-橘子都知道 气概和气慨哪个正确些,气概与气概的区别

评论

5+2=