在持(chí)续已久的“AI热潮”中,各家(jiā)争相推出的大模型(xíng)、AI应用,都进一步推升了对算力狂热的需求(qiú)。本周已有报道指出英伟达后续对(duì)AI顶级规格芯片需(xū)求明显看两害相权取其轻,两利相权取其重,两权相害取其轻正确说法是什么意思增,紧急向台积电追加预(yù)订先(xiān)进封装产能(néng)。
需求(qiú)飙(biāo)涨下(xià),英伟(wěi)达GPU价格自然也是水涨船(两害相权取其轻,两利相权取其重,两权相害取其轻正确说法是什么意思chuán)高。据集微网消(xiāo)息,有代理商透(tòu)露,英伟达(dá)A100价格从去年12月开始(shǐ)上涨(zhǎng),截至今年4月上半月,其5个月价格累(lèi)计涨幅达到(dào)37.5%;同(tóng)期A800价格累计涨幅达20.0%。
同时,英(yīng)伟达GPU交货周期(qī)也被拉长,之前拿货周(zhōu)期(qī)大(dà)约为一(yī)个月,现在(zài)基本(běn)都需要(yào)三个月或(huò)更(gèng)长。甚至,部分新订单“可能要到12月(yuè)才能交付”。
供需的(de)巨大鸿沟面前,在这(zhè)一情形之下(xià),众多客(kè)户也不得不“勒(lēi)紧(jǐn)腰带”。上述文章指出,国(guó)内(nèi)可用于训练AI大(dà)模(mó)型的A100大约有4万-5万个,供(gōng)应相当吃紧,一些(xiē)云服务厂商已严格限制内部使(shǐ)用这些(xiē)先进芯片,以(yǐ)将其保留(liú)至需要强力(lì)运算的任务。
值得一(yī)提的是,类似的事情在微软(ruǎn)内部也早已发(fā)生。3月已有外媒报道指出(chū),微(wēi)软内部陷入AI服务器硬件短缺(quē)的窘境,不得不对AI硬件(jiàn)资(zī)源采取“配额供给”机制,限制公司内(nèi)部其他AI工具开发(fā)团队的资源用量。
拉长时间线(xiàn)来看(kàn),有GPU业内人士指出(chū),实际上从去年6月起,英伟(wěi)达就已(yǐ)宣布上调A100价格,涨幅20%左右(yòu),渠(qú)道(dào)商(shāng)在加紧囤(dùn)货。至于(yú)英伟达A800,在ChatGPT火爆之前就已出现涨(zhǎng)价,但反(fǎn)映(yìng)到(dào)市场则有一定(dìng)的滞后(hòu)性,赶上ChatGPT爆火这一时间点,更放大了这一现(xiàn)象。
“英伟(wěi)达GPU涨价与ChatGPT有一定的关联(lián)性,且交(jiāo)货(huò)周(zhōu)期也受到了(le)连带的影响,导致市场上(shàng)出现了众(zhòng)多炒卡的行为。”
此(cǐ)外,在海外电(diàn)商平台上,英(yīng)伟达新旗舰(jiàn)级GPU H100的价格在4月中旬就已炒到了(le)超过4万美元。
随着如今各家科(kē)技巨头争相推出自家大模型,GPU需求量仍在持续攀升。OpenAI指出(chū),AI大(dà)模型要持续取得突(tū)破,所需要消(xiāo)耗的(de)计算资源每(měi)3~4个月就要翻(fān)一倍,资金也需要通过指数级增长获(huò)得匹配。
据财(cái)通证券(quàn)测算,2023/2024/2025年大模型有望(wàng)为(wèi)GPU市场两害相权取其轻,两利相权取其重,两权相害取其轻正确说法是什么意思贡(gòng)献69.88/166.2/209.95亿美元增(zēng)量。
其中在训练(liàn)端,以目前主流的(de)训练端GPU英(yīng)伟达(dá)A100测算(suàn),假设ASP为1万美(měi)元,2023/2024/2025年全球训练(liàn)端GPU需(xū)求市场规(guī)模(mó)预(yù)计分别为(wèi)0.74/2.00/4.07亿(yì)美元;
在(zài)推理端(duān),以(yǐ)目前(qián)英伟达用于推理端计算的A10测算,假设ASP为(wèi)2800美元,2023/2024/2025年全球(qiú)推理端GPU需(xū)求市(shì)场规模预计(jì)分别为69.14/164.2/205.88亿(yì)美元。
业内人(rén)士也表示,AI大模(mó)型训练成本(běn)之一(yī)是基础算力,大概需要384-3000块左右的A100才能基(jī)本满足要求,如果价格持续上涨,无论是互联网、AI大厂、还是创业新贵,要追加的投入都可能远超当初。
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了