企业 AI 的新经济学

想象一下，你的公司刚刚发现了电。起初只有少数机器使用电力，没人关心效率——消耗低，价值显而易见。但一旦电力成为基础设施，每个流程都依赖它，问题就从“我们能不能用它？”变成了“我们用得有多高效？”

企业 AI 正在经历同样的转变。最初作为孤立的聊天机器人和副驾驶（copilot）实验起步的 AI，正日益成为业务的基础层，模型、智能体和数据在生产工作负载中越来越紧密地交织在一起。重要的问题不再是单个 token 或 GPU 小时成本多少，而是 AI 环境将付费容量转化为有效业务成果的效率有多高。

这才是值得追踪的指标：每个有效成果的实际成本——即完成业务真正可用的工作（无论是一个已解决的请求还是一个已完成的工作流）所需的平台、模型、运营和容量的总成本。

运行 AI 的三种方式

利用率是经济性的核心。将更多工作导向已付费的容量可以降低实际单位成本；闲置的 GPU、碎片化的工作负载和过大的模型都会抬高每个有效结果的成本。企业通常在三种模式中选择：

定制化技术栈——自行采购基础设施和控制手段。这种方式灵活，但会带来持续的负担，因为团队必须随着模型和策略的变化不断重新验证环境。

按需消费——超大规模云服务商减少了组装负担，适合需求低或不确定的场景，但每次提示或智能体操作都会产生费用。

一体化私有 AI 平台——自有的或专属的容量，配合经过验证的技术栈。其优势不在于免费的推理，而在于对调度、模型选择、GPU 分区和缓存管理等效率杠杆的掌控。

正确的模式取决于工作负载。对于实验或波动的需求，API 可能是合理的。当工作负载变得持续且对业务至关重要时，企业需要考量的不仅是消费了什么，还有运行系统的效率有多高。

所有权是一种运营纪律

买一辆 F1 赛车停在自己的车库里，意味着拥有史上最精密的车辆之一——但仅有所有权并不能让你具备竞争力；你还需要车手、机械师和赛道时间来证明它的价值。AI 基础设施也是如此。

企业 AI 中最大的误区之一是：拥有基础设施就能自动改善经济性。拥有 GPU 创造了更优经济性的机会，但前提是组织有足够的需求和运营纪律，让资源保持高效运转。

带来最佳投资回报的基础设施，不是参考架构，也不是定制化建设——而是一个完全集成、经过认证的技术栈，它能让团队把任务路由到满足质量要求的成本最低的模型，并通过 KV 缓存管理等技术复用上下文，在保持响应能力的同时减少容量浪费。

没有这些实践，投入的基础设施可能沦为闲置资本。有了这些实践，不断增长的需求会改善经济性，因为固定成本被摊销到更多有效工作之中——这在智能体系统中愈发重要，因为其经济性更多取决于整个环境的效率，而非任何单个提示。

从部署到价值

HPE Private Cloud AI 是一个可投入生产的基础平台，整合了基础设施、软件、模型、工具、治理与服务，减轻了大规模运营私有 AI 的集成负担。其架构让团队可以将调度、模型选择、GPU 分区和缓存管理作为运营杠杆来掌控，使容量与服务水平与每个工作负载的需求相匹配。它还包括一项为期 90 天的前驻工程师服务，帮助客户团队部署初始用例并建立可复用的运营实践。

在 HPE 委托的独立测试中，一个以高利用率服务多个工作负载的集成平台，其每 token 的有效成本低于反复租用同等容量的方式。实际结果会因工作负载组合和利用率的不同而有所差异。

衡量真正重要的指标

Token 消耗量仍然有用，但它并不是衡量 AI 经济性的完整指标。更全面的企业视角应追踪每项业务相关成果的成本、加速器利用率，以及相对于任务复杂度的模型选择。

已经在运营私有 AI 的企业应当评估自己的利用率成熟度如何，以及未来 12 到 18 个月工作负载规模将如何变化。尚处于起步阶段的企业则应在首次部署时就建立这些实践，让策略在需求成为瓶颈之前就能预见增长。

对于低用量、需求不可预测的场景，API 或超大规模云服务商可能仍然是合理选择。但当 AI 成为持续性的生产能力时，企业就有了越来越强的动力去掌控利用率、摊销固定成本，并将整个环境作为长期运营资产来管理。战略问题不在于企业是否要为 AI 付费——而在于他们是否理解，并最终掌控其背后的经济性。

要了解更多关于 HPE Private Cloud AI 的信息，请访问 HPE。

本内容由 HPE 制作，并非由 MIT Technology Review 编辑团队撰写。