New Street Research:AI基础设施需求没有放缓迹象

(原标题:New Street Research:AI基础设施需求没有放缓迹象) 智通财经APP获悉,投资公司New Street Research的数据显示,人工智能基础设施需求在短期内没有放缓的迹象,因为对计算能力的更高投入会带来性能更好的模型。 以Pierre Ferragu为首的分析师在一份行业报告中表示:“OpenAI展示了模型的大小正如何变成对推理成本的沉重压力。”“尽管推理成本随着模型的成熟下降得很快,但下一代模型的运行成本比以前的版本要高得多(随着推理能力的引入,这种情况只会变...


(原标题:New Street Research:AI基础设施需求没有放缓迹象)

智通财经APP获悉,投资公司New Street Research的数据显示,人工智能基础设施需求在短期内没有放缓的迹象,因为对计算能力的更高投入会带来性能更好的模型。

以Pierre Ferragu为首的分析师在一份行业报告中表示:“OpenAI展示了模型的大小正如何变成对推理成本的沉重压力。”“尽管推理成本随着模型的成熟下降得很快,但下一代模型的运行成本比以前的版本要高得多(随着推理能力的引入,这种情况只会变得更糟)。”

尽管这一周期保证了为人工智能提供硬件支持的公司的高需求和高销量,但不断增加的成本是否值得推出下一级模型。Pierre Ferragu表示:“生成式人工智能是一项增量成本非常昂贵的业务(最新模型)。这与软件完全相反,后者的增量成本为零。我们不确定这将如何实现,但它将对价值链结构产生深远的颠覆性影响。”

Meta(META.US)和由特斯拉(TSLA.US))首席执行官埃隆•马斯克创立的初创公司xAI等公司继续在人工智能硬件竞赛中加足马力。上周,马斯克宣布了一个由10万块英伟达H100 GPU驱动的人工智能训练集群。他计划在接下来的几个月里增加一倍。同样,Meta首席执行官扎克伯格计划在今年年底前拥有35万块H100 GPU,为公司的人工智能项目提供支持。

Pierre Ferragu表示:“随着我们对人工智能经济学的理解不断提高,无论是在供应方面还是在需求方面,我们都认为目前的支出水平具有可持续性,而且还有进一步大幅增长的空间。这并不意味着不会出现暂停或调整,而是这意味着我们还没有看到一个不可持续的泡沫的顶峰。”

英伟达(NVDA.US)目前在为不断发展的人工智能模型提供必要处理器的竞争中胜出。一个主要原因是英伟达最新GPU的全栈和系统级集成能力,这可以在更大的领域内实现更大的芯片到芯片带宽互联。New Street Research指出,这正是英伟达相对于竞争对手AMD(AMD.US)的优势所在。

不过,Pierre Ferragu补充称:“这并不能否定AMD的优势,因为其架构的通用性和可扩展性较差,但仍然具有竞争力,只是使用的案例更为有限,而且需要付出专门的优化努力。”或许AMD也明白这一点,这也是该公司最近收购ZT Systems的原因之一。



相关资讯