《科创板日报》10月14日讯 日前ag九游会网站,一则关系“2好意思元/小时出租H100:GPU泡沫幻灭前夕”的报说念激发国内市集高度关心。相干著作指出:

英伟达H100 GPU在2023年3月上市之后,因需求激增供不应求,其租借价钱从开端的每小时4.7好意思元一度飙升至每小时8好意思元以上。但本年以来,H100运转“供过于求”,每小时租借价钱降至2好意思元附近。

价钱下降是由于多方面成分导致:1)有些永远预订H100的公司完成模子老师之后,转售闲置未使用的算力;2)很多公司不再重新老师新模子,转而微调通达模子,算力需求大幅裁减;3)专注构建大限制基础模子的新创公司数目大幅减少;4)H100的替代品出现,如AMD和英特尔GPU,等等。

  对这篇报说念进行溯源后不错发现,国际主流媒体及主要科技媒体暂未进行相干报说念,原报说念标题为《$2 H100s: How the GPU Bubble Burst》(2好意思元H100:GPU泡沫是何如幻灭的),来自于一个名为Latent Space的网站,原文作家为Eugene Cheah。

  字据网站先容,Latent Space主要聚焦于AI,体式集现实音讯、博客、社区为一体,由swyx 及Alessio Fanelli共同主抓,前者的酬酢平台账号并未给出具体身份自我先容,后者则为早期风投公司Decibel VC的联合东说念主和CTO。

  原文作家Eugene Cheah,则为初创公司Featherless.Ai的CEO。

  据Cheah在“GPU泡沫”一文原文末尾先容,Featherless.Ai当今托管着巨匠最大的开源AI模子,“每月10好意思元起,可立即看望,无放置申请,价钱固定;可通过无管事器形貌即时推理,无需文静的专用 GPU”。

  ▌H100租借价钱下降 = GPU泡沫幻灭?

  在“GPU泡沫”一文原文中有张配图,那是法国艺术家让-莱昂•热罗姆在1882年创作的油画《郁金香狂热》(Le Duel à la tulipe)。

  这幅画刻画了有记载以来历史上第一次投契泡沫——17世纪荷兰的“郁金香狂热”,郁金香价钱在1634年抓续攀升,并于1637年2月崩盘,投契者手中只剩下开端投资额的5%。

  三百多年前的投契泡沫会否再次献艺?这个问题牵动着每一位AI投资者的神经,八成亦然这一次“H100租借价钱下降”一文在AI圈激发高度关心的原因。

  从算力租借商Vast.ai网站报价不错看到,1x H100的一小时租借报价确乎依然在2~3好意思元区间内。

Vast.ai报价Vast.ai报价

  但H100租借价钱下降,简直能和“GPU泡沫幻灭”画上等号吗?

  一方面,从Eugene Cheah的著作来看,“H100价钱下降”可能用“分化”来形容更为符合——抓续下降的主要汇聚在小限制集群的租借价钱,相较之下,大限制算力集群的价钱则可能防守在较高水平。

  而这些大限制算力集群背后,多是诸如特斯拉、微软、OpenAI一类的科技巨头。Omidia数据清爽,H100发布之后的阿谁2023年第三季度,其出货量达到65万张,其中仅Meta和微软就划分拿下了15万张,占比接近一半。

  另一方面,电子家具都有着更新迭代周期,GPU芯片一样如斯。之前英伟达下一代GPU Blackwell系传记出遐想存在时弊,可能蔓延出货。但摩根士丹利上周发布阐扬称,Blackwell的出产正在“按策动进行”,且已往12个月附近的供应依然售罄,这意味著现鄙人订单的客户要到2025年底才智收到货,“这将不息鼓励对现存Hopper架构家具的强盛短期需求”。

  H100租借价钱并非陡然暴跌,波动已恐怕日。从A100到H100,从H100到H200,再到已往的Blackwell,新品出世例必带来前代家具的没落,更妄论Blackwell算力资本有望比Hopper进一步裁减。

  黄仁勋这位英伟达“掌舵东说念主”也在日前率马以骥。在领受Altimeter Capital采访时他强调,对英伟达的抓续看涨与互联网泡沫顶峰技艺围绕念念科的狂热都备不同。英伟达正在“重塑诡计”,已往将是“高度机器学习”的时期。

  “摩尔定律依然基本宣告收场”,他示意,为了提供必要的算力以跟上已往诡计密集型软件的门径,已往4~5年内,现存数据中心将需要价值约1万亿好意思元的GPU来收场升级。

  必须承认的是,“AI泡沫”论的警钟敲了又敲,“AI投资呈报难达预期”的质疑声息一浪高过一浪,一边是OpenAI怀恨算力上线不足时不够用、英伟达新品售罄,另一边是算力租借价钱抑止下降、还有公司“甩卖”GPU。

  但局部、短期的算力充足或缺少,似乎已难以代表AI的全盘所在,关于供需两方、多空双方走动博弈的AI边界来说,在硬件端除外,八成亟待更多新故事。

海量资讯、精确解读,尽在新浪财经APP

包袱剪辑:刘亮堂 ag九游会网站