AI推理产生巨额后端存储成本被忽视

MIT Technology Review 发文分析指出，AI 推理过程中产生的后端数据存储成本常被基础设施规划所忽视。文章引用西部数据（WD）的内部测量数据：一段时长 8 秒、大小为 3.97MB 的 720p AI 生成视频，其推理过程中会在后端留下超过 500MB 的关联数据，包括日志、缓存上下文、备份和安全记录等，总量约为输出文件大小的 130 倍。这一数据说明，AI 推理的隐性存储负担远超表面所见，存储规划若只按模型输出大小估算，将严重低估实际需求。目前报道集中于这一测量结果与问题揭示，尚无相关厂商或云服务商的回应及后续解决方案的报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。