近年来科技新创如春笋般涌现,而需要租用超大规模云端服务供应商的图像处理器(GPU)晶片身价也水涨船高,其保值价格更甚汽车!(图取自网络)

(华盛顿13日讯)近年来科技新创如春笋般涌现,而需要租用超大规模云端服务供应商的图像处理器(GPU)晶片身价也水涨船高,其保值价格更甚汽车!

据德国媒体报导,GPU价格追踪商——Silicon Data公司首席执行员李卡门(Carmen Li,译音)表示,强劲的人工智能(AI)需求直接推动GPU晶片价格上涨。该公司的定价数据显示,用于训练和运行AI模型的英伟达(Nvidia)新旧GPU价格,过去几个月价格普遍上涨。

李卡门直言,人工智能晶片市场正在获取暴利,英伟达二手GPU晶片H100,使用3年后还保值84%,“价格已疯了,车贬值速度都比这快得多。”

现实情况恰恰相反

李卡门于2024年创办Silicon Data,专门追踪GPU价格,目标是提高GPU租赁市场的透明度。这位创始人表示,该公司收集全球数十万个GPU价格点,并将其标准化为指数,用于了解租赁和长期价值。

由于科技巨头、人工智能实验室和其他公司斥资数万亿美元购买GPU、并建造资料中心,以推动生成式AI的蓬勃发展,因此,GPU价格至关重要。

人们担心,如果GPU价格因需求疲软下跌,AI云端巨头可能不得不加快这些资产的折旧速度,这可能会严重影响获利。但到目前为止,情况恰恰相反,GPU价格正在上涨,即使是较旧的GPU贬值幅度也不大。

GPU价格正在上涨,即使是较旧的GPU贬值幅度也不大,表明人工智能运算的需求仍然超过供应。。(法新社档案照)
GPU价格正在上涨,即使是较旧的GPU贬值幅度也不大,表明人工智能运算的需求仍然超过供应。。(法新社档案照)

汽车贬值速度还快

李卡门还经营一家名为Compute Exchange的公司,专门转售翻新GPU。她指出,如果使用H100 GPU晶片第2年,可以以原价85%的价格出售一块翻新的晶片。到第3年,同样的GPU可以以原价84%的价格出售,“我的车贬值速度都比这快得多。”

对于AI创业者来说,过去3个月的晶片租金数据让人窒息,英伟达的Neo Cloud H100指数从2.20点升至2.64点,涨幅达20%;Neo Cloud B200指数从4.40点攀升至5.35点,涨幅达22%; Hyperscaler H100指数也从7.26点升至7.46点,涨幅为3%。

产能限制依然存在

这些数据表明,人工智能运算的需求仍然超过供应。李卡门表示,市场并未遵循通常的新晶片发布初期价格上涨,然后随著供应改善价格逐渐回落的模式。相反,她指出,B200价格一直居高不下,甚至进一步走高,这表明产能限制仍然存在。

她进一步指出,这种供需失衡所带来的压力体现在整个AI产业链的各个环节:晶片、记忆体、电源和资料中心空间。

这种限制使得即使是像英伟达H100这样的老旧硬体价格也保持坚挺,而这些硬体仍然是人工智能训练和推理工作负载的核心。

目前,人工智能需求远超预期,而运算资源的供应却无法满足需求。这不仅对基础设施预算产生影响,而且对依赖租用GPU大规模产生AI产品的公司来说,经济效益也会产生巨大影响。

司徒启雄

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头