企业 AI 基础设施疯狂烧钱：GPU 闲置过半还在疯狂采购

算力投资跑得太快，成本账本跟不上

VentureBeat 最新调研了 107 家企业，发现一个扎心事实：企业在 AI 基础设施上的采购速度，已经完全甩开了自己的管理能力。这种现象被定义为"算力缺口"——简单说就是，企业疯狂买买买，但对算力花销却一脸懵。

规模化部署？只有五分之一企业做到了

调研显示，企业 AI 部署情况严重"头重脚轻"：

• 38% 还在玩概念验证，压根没进生产环境
• 37% 部分业务上了 AI，但还没全公司铺开
• 21% 实现了规模化部署——这才是真大佬
• 4% 连 AI 都没碰过

换句话说，四分之三的企业还在 AI 初级阶段，但他们的算力采购已经起飞了。

GPU 闲置严重，但采购根本停不下来

更离谱的是：83% 的企业 GPU 利用率不到 50%。这意味着天价算力在吃灰。更扎心的是，只有 44% 的企业能算清楚 AI 算力花销——超过一半企业连自己花了多少钱都不知道。

但这丝毫不影响企业继续买买买：45% 的企业计划在未来一年内评估 AI 专用云，而这类服务在受访企业中几乎没人用过。

供应商忠诚度？不存在的

调研还发现，企业换供应商比换衣服还勤：

• 64% 计划在 12 个月内换供应商或加新供应商
• 38% 打算在未来三个月内就动手

这种换手率在基础设施领域相当罕见，说明市场还没形成稳定格局。

现在的主流玩法：云巨头+模型 API

目前企业 AI 运行主要还是靠传统云巨头：

• Google Cloud 以 48% 使用率领先（Microsoft Azure 29%，AWS 22%，Oracle Cloud 22%）
• 模型层面，Google Gemini 占 41%，OpenAI 紧随其后 40%，Anthropic 为 12%
• 只有 6% 的企业在用自有本地或托管 GPU 集群

选型不看单价，看集成和 TCO

企业在选基础设施供应商时，决策因素很有意思：

• 集成度（与现有技术栈的兼容性）：41%
• 总拥有成本（TCO）：35%
• 每百万 token 成本：只有 8%

这对中国市场很有启示——国内 AI 厂商爱打价格战，但企业更看重系统集成和长期总成本。

推理瓶颈？多数企业还没意识到

调研还指出，随着推理规模扩大，内存带宽即将取代 GPU 算力成为关键瓶颈。但目前只有约五分之一的企业意识到这一点或开始应对。

对中国企业的启示

这份调研样本主要是中型企业（101-250 人占 36%，251-1000 人占 27%），技术/软件行业占 26%，医疗/生命科学 15%，金融服务 13%。虽然样本偏向早期采用者，但其揭示的问题在中国市场同样存在：

1. FinOps 能力建设滞后：在追逐算力的同时，要同步建立 AI 成本管理体系
2. 避免"先买后算账"：GPU 利用率监控应成为采购决策的前置条件
3. 关注 TCO 而非单价：长期集成成本往往高于表面价格差异

一般来说，企业 AI 基础设施投资应该遵循"可见性先行"原则——在扩大算力采购前，先建立成本归因、利用率监控和效能评估体系。这份调研的核心警示是：当投资速度超过管理能力时，规模本身就成了风险。

---

本文基于 VentureBeat 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://venturebeat.com/ai/the-ai-compute-gap-enterprises-are-buying-infrastructure-faster-than-they-can-measure-what-it-costs