基础设施

越过遗忘的边界:模型记忆三层框架与存储红利

2026年3月Roger · 中金研究部

大模型的演进史也是一部与"遗忘"抗争的历史。短期记忆(KV Cache)对应 HBM 与 NVLink,中期记忆(Agent 跨会话)下沉 DRAM 与 NVMe SSD,长期记忆(知识固化)催生数据库新蓝海。以 Gemini 3 Pro 1.5T 参数测算,单次训练需 311TB SSD,全球头部模型年存储需求近 4EB;推理侧单平台 HBM 314PB、DRAM 1206PB。模型从离线训练走向在线进化,存储需求进一步膨胀。

1 / 0 缩放
加载中…