跳到正文

#数据中心

今日 0 条
9月24日周四
  1. TrendForce Insights 半导体产业洞察43

    为什么 CSP 开始用 QLC SSD 存储 KV Cache

    TrendForce 观察到部分云服务商正在 SSD POD 中加入 QLC SSD,取代 TLC SSD 加 HDD 的默认配置。AI 推理中 Prefill 与 Decode 阶段不断读写 KV Cache,随着上下文窗口和 batch size 增长,KV Cache 容量需求成倍扩大,厂商因此将缓存从昂贵且容量有限的 HBM 下沉到成本更低的层级。

9月21日周一
9月2日周三
9月1日周二
8月18日周二
6月2日周二