资讯中心

返回 主页

内容开始

SK海力士:AI推理推动分层存储,NAND将迎来KV缓存新需求

Andy 2026-10-28 16:09

在2026年第三季度业绩电话会议上,SK海力士表示,随着智能体AI和长上下文场景加速普及,KV缓存规模快速扩张,仅依靠高带宽内存和DRAM存储已面临容量与成本瓶颈。

SK海力士指出,按照数据访问频率,将数据分别存放于HBM、DRAM和SSD的分层内存架构正变得愈发重要。NAND有望迎来新的需求机会,用于保存和复用AI推理所需的上下文数据。

目前,部分AI系统已开始使用SSD承接KV缓存卸载。未来,SSD的角色有望进一步扩展为“上下文存储层”,支持多台服务器和多颗GPU共享大规模KV缓存。

为把握这一趋势,SK海力士正在开发配套的分层存储技术。其中,SALT-KV是一种软件技术,通过评估每个KV缓存的复用价值与存储成本,优化数据在HBM、DRAM和SSD之间的分配;CMM-Hybrid则是基于CXL的混合内存技术,将完整KV缓存存放于SSD,并预测未来可能需要的数据,提前预加载至DRAM。

SK海力士称,近期已基于真实AI工作负载完成系统演示,正在进一步明确推理环境下企业级SSD的适用范围和性能需求。中长期来看,SK海力士计划推出高带宽闪存HBF,将NAND的大容量、成本优势与高带宽结合,填补HBM与SSD之间的新存储层级。

更多资讯

top

深圳市闪存市场资讯有限公司 客服
Copyright©2008-2026 CFM闪存市场 版权所有

打开APP