简报

  • 据Gartner周一发布的预测，AI数据中心支出将在未来四年占半导体总收入的一半以上，而2026年这一比例为36.5%。
  • 该研究机构表示，数据中心支出的增长将推动全球半导体收入今年超过1.6万亿美元，同比近乎翻倍。
  • 尽管内存收入仍是今年半导体行业整体增长的主要贡献者——预计占2026年半导体收入的54%——但AI数据中心收入份额的提升凸显了“半导体价值创造和需求演变方式的转变”，Gartner主任分析师Ben Lee表示。

深度洞察

AI需求正推动更多数据中心建设以支持计算。然而，企业高管正进入一个更加谨慎的部署时代，因为他们需要应对不断上升的AI成本。

供应商已迅速从固定费率订阅定价转向基于使用量或结果的模式。Info-Tech Research Group技术顾问Justin St-Maurice在给CIO Dive的邮件中表示，这种定价转变并非组织能够轻易应对的。

“早期，大多数供应商的策略是让企业‘上瘾’于技术使用，”他说，“在采用阶段，真实成本实际上被隐藏了。”

但现在，账单迅速累积。St-Maurice指出，持续循环的代理是AI成本上升的最大贡献者。该技术会自我怀疑并重新处理数据，导致最终成本以难以预测的方式上升。

在担忧加剧之际，Snowflake、AWS和Oracle等供应商正在实施功能，帮助企业控制AI成本。

然而，CIO和其他希望更好管理AI开销的高管或许应关注中国，该国已创建了能与美国前沿模型竞争的开源模型，St-Maurice表示。根据用例，CIO应考虑使用这些模型。

“未来的策略将包括多层计算，桌面设备处理大部分基础工作，复杂任务时再升级处理，”St-Maurice说。

Travelers Insurance构建了自己的大型语言模型以缓解AI成本上升。TravelersLLM处理保险相关查询，运行成本低于前沿模型，据Travelers执行副总裁兼首席技术和运营官Mojgan Lefebvre称。

该公司仍使用前沿模型进行更广泛的推理或编码查询。然而，更便宜的内部模型有助于抵消前沿模型的高成本，Lefebvre在7月的一次采访中表示。