如何分配从英伟达购买的芯片资源正在成为马斯克急需考虑的问题,目前这位科技富豪旗下拥有电动车公司 特斯拉 、社交媒体X公司和 人工智能 公司xAI。
马斯克周二在社交媒体X上发帖称, 特斯拉 今年可能将花费30亿至40亿美元购买英伟达芯片硬件。
此前有消息称马斯克正在优先考虑将英伟达购买的芯片用于xAI和X公司,引发 特斯拉 股东的不满。 特斯拉 周二收盘股票价格下跌近1%。
今年1月, 特斯拉 宣布追加5亿美元投资,向英伟达购买约1万块H100 GPU。而根据媒体援引英伟达的一份内部备忘录,马斯克将原本 特斯拉 的1.2万个GPU订单优先“挪用”给了xAI和X公司。英伟达方面没有就此向第壹财经记者回应。
马斯克对此表示,把GPU优先划分给X和xAI是由于 特斯拉 目前没有地方存放并启用这些英伟达的芯片。他还称, 特斯拉 位于得克萨斯州的超级工厂的扩建计划已接近完成,届时将可容纳5万个H100 GPU,用于 特斯拉 自动驾驶FSD的练习。
马斯克一直致力于将 特斯拉 变成一家 人工智能 和 机器人 公司,并以此支撑该公司的估值。为了实现这一目标,他曾表示, 特斯拉 需要大量的英伟达贵重的芯片处理器作为基础设施。
根据马斯克在 特斯拉 4月的财报发布会上透露的信息, 特斯拉 将会把英伟达H100芯片的数量由当时的3.5万个增加到8.5万个。
英伟达的H100 GPU是用于大模型训练的“算力标配”。目前已公开的数据显示,Meta公司是拥有H100 GPU最多的企业,数量约为35万个。马斯克之前在X平台上发表评论称,他认为, 特斯拉 拥有GPU的数量可能位列第贰,xAI位列第叁。
上个月底,马斯克的xAI公司刚刚宣布新一轮60亿美元的融资。xAI于2023年买了约1万块英伟达H100 GPU,这使得该公司拥有H100的数量达到约3万块。
而 特斯拉 电动车的销量则正在经历大幅下滑。在这一环境下,马斯克越来越聚焦于 人工智能 的布局。他此前表示, 特斯拉 将于今年8月推出一款自动驾驶出租车Robotaxi。
这时,马斯克还承诺将为 特斯拉 建造一个价值5亿美元的超级计算机系统Dojo,这将帮助 特斯拉 发展用于 机器人 和自动驾驶汽车的计算机视觉技术和大模型。
今年4月,马斯克在X平台上表示, 特斯拉 今年将在 人工智能 领域投入100亿美元,用于AI的练习和推理,推理主要用于车内。马斯克还表示,对于构建AI训练超级集群而言,英伟达的硬件约占成本的三分之二。
Gartner分析师盛陵海对第壹财经记者表示:“H100 GPU主要是训练为主,但英伟达的芯片是万能的,也可用于推理,只是推理的性价比不如训练那么高,面临竞争。”
具体到自动驾驶,盛陵海对第壹财经记者表示:“自动驾驶的练习主要在云端,将数据传输到云端,云端训练完后再在车里跑推理。”
根据Gartner的分析数据,到2025年,推理芯片的市场规模将开始大幅超越训练芯片。到2028年,推理芯片市场规模大约将会达到训练芯片的市场规模的两倍。
“推理芯片的市场规模将随着应用使用人次而不断增加。”盛陵海对第壹财经记者表示。
GPU作为AI时代的重要资源,正在被 特斯拉 等巨头公司争相抢夺。马斯克表示,AI训练面临的最大阻碍是先进芯片的缺乏。
在今年4月的一次直播访谈中,马斯克谈到训练xAI下一个版本的Grok聊天 机器人 背后期望的算力。他说道,训练Grok-2大模型需要大约2万个英伟达H100 GPU芯片;而Grok-3模型及更高版本大模型将需要多达10万个英伟达H100芯片。