企业加速采购AI算力却难看清成本,计算缺口持续扩大

1 阅读4分钟视野
企业加速采购AI算力却难看清成本,计算缺口持续扩大

调研概览

VentureBeat Pulse 2026 Q2 对 107 家员工规模在 100 人以上的企业进行了深入访谈,聚焦 AI 基础设施、算力利用率以及成本可视化。样本覆盖技术、医疗、金融、零售等行业,受访者包括管理层、技术负责人以及 C‑suite,具备真实采购决策权。

关键发现

  • AI 产线仍处于早期:仅 21% 的企业在大规模生产环境中运行 AI,余下 79% 仍在实验或局部上线阶段。
  • 当前算力主要依赖公有云与模型 API:Google Cloud(48%)仍是最常用平台,紧随其后的是 Azure(29%)和 AWS(22%);模型方面 Gemini(41%)与 OpenAI(40%)占据主流。专业 AI 云(CoreWeave、Lambda 等)使用率不足 2%。
  • 下一笔投入将流向未使用的专用算力:45% 的受访者计划在 12 个月内评估 AI‑专用云,32% 关注非 NVIDIA 加速器,28% 关注下一代 NVIDIA GPU。
  • 供应商切换意向强烈:64% 的企业将在一年内更换或新增算力供应商,其中 38% 计划在下季度完成切换。
  • 决策驱动因素是集成度与整体拥有成本:集成现有技术栈(41%)和总拥有成本(TCO,35%)排名前两位,单纯的 token 计价仅被 8% 视为关键。
  • GPU 利用率低下:83% 的企业报告 GPU 利用率不超过 50%,其中 49% 低于 25%。
  • 成本监控不足:只有 44% 能够严格追踪算力成本与 ROI,39% 仅部分监控,20% 完全无法量化。
  • 对推理内存瓶颈关注度低:在推理从计算转向 KV‑cache 内存的趋势上,只有约 31% 计划依赖 Dell 等存储方案,18% 甚至不知晓此约束。

计算缺口的根源

调研显示,企业在算力投入上的盲目性主要来源于两方面:

  1. 需求驱动快于可视化:业务对生成式模型的需求快速增长,促使企业抢购 GPU、专用云等资源,却缺乏实时使用率监控工具。
  2. 成本评估模型不成熟:多数组织仍以 token 价格为参考,而非实际硬件耗时、功耗和运维成本,导致 TCO 与实际支出脱节。

市场影响与后续趋势

  • 供应商竞争将加速:随着 64% 企业计划在一年内更换供应商,公有云巨头(Google、Microsoft、AWS)以及新兴 AI 专用云将争夺迁移项目。
  • 专用加速器有望破局:非 NVIDIA 加速器和下一代 Blackwell GPU 获得显著关注,意味着硬件生态将出现多元化竞争。
  • 监控与优化工具需求上升:低利用率与成本不可视化的痛点将推动第三方监控平台、自动调度系统以及成本分析 SaaS 的快速落地。

结语

企业的 AI 计算支出正以远超可视化能力的速度增长,形成了明显的“计算缺口”。在算力利用率仍低、成本追踪不足的背景下,下一轮基础设施重构将面临成本失控的风险。供应商必须提供更高效的集成方案和透明的费用模型,企业则需尽快建立完整的算力监控与成本核算体系,才能在加速创新的同时避免盲目投入。

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。