2026 OCP China Day开放计算技术大会于北京重磅举办,这是OCP深耕中国市场的第七届行业盛会,由OCP开放计算社区与OCTC开放计算标准工作委员会联合主办,汇聚全球头部云厂商、芯片企业、算力基础设施服务商及行业技术专家齐聚一堂。
大会聚焦AI数据中心、全域算力互联、绿色数据中心、边缘连续计算等前沿赛道,深度分享开放计算全栈技术标准、生态共建成果与规模化落地实践。
此次大会,三星电子副总裁、解决方案开发团队负责人 田成勳 出席带来专题分享,聚焦 Agentic AI 催生的超长上下文与海量 KV 缓存瓶颈,完整解读 AI Token Factory 产业发展趋势。
并推出分层 SSD 存储架构,分别面向实时活跃 KV 缓存、长期归档 KV 缓存发布 PM1763、BM1773 两款专用闪存方案,同时规划下一代 PCIe Gen7 存储产品,为大模型推理提供全生命周期存储支撑。
本次分享核心议题为解决智能体 AI 爆发带来的超长上下文存储难题,面向 AI Token Factory 全新产业阶段,打造适配推理场景的新一代闪存存储体系,通过分层 SSD 补齐 HBM、内存容量短板,平衡推理时延、存储容量与整体成本。
AI 基础设施市场规模迎来高速增长,行业数据显示 2025 年市场规模为 3180 亿美元,预计 2029 年将逼近 1 万亿美元,AI 产业正式从单模型训练走向规模化智能体批量生产,AI Token Factory 成为行业全新发展阶段,算力与存储基础设施亟需同步升级匹配增长需求。
AI Token Factory 可接收文本、图片、代码、视频多类型输入素材,通过完整算力链路输出对话推理、代理操作、代码生成、文本摘要等多元化内容,海量并发推理场景下,KV 缓存持续膨胀,传统内存架构难以承载持续累积的上下文数据,存储成为制约集群吞吐的核心瓶颈。
智能体 AI 下 KV 缓存同时沿上下文长度、并发用户、会话时长三个维度持续扩张:单用户单次对话可产生约 10GB KV 缓存,千级并发场景总量可达 1TB,上万用户规模下整体缓存容量突破百 TB;即便通过模型算法将 KV 占用压缩 90%,海量长会话累积的数据量仍远超传统内存承载上限。
传统 AI 存储层级由 HBM、DRAM 两层内存构成,仅能支撑短时单次大模型推理;智能体具备持久会话能力,会持续留存对话记录、工具输出、推理轨迹,上下文不再是临时数据,仅依靠高速内存无法承载长期累积的海量 KV 缓存,必须引入大容量分层 SSD 作为扩展存储层。
面向多智能体协同的 AI Token Factory 搭建四层存储金字塔:顶层 HBM、DRAM 负责超低时延实时推理;中层 TLC 高性能 SSD 承载活跃 KV 缓存,支撑多智能体实时数据交互;底层 QLC 大容量 SSD 存放归档 KV 缓存,复用历史上下文减少重复计算,多层存储协同完成全生命周期 KV 数据调度。
对比 HBM、传统 DRAM、SSD、HDD 四大介质的时延、带宽、容量、扩展性与综合成本:HBM 与 DRAM 速度最优但容量有限、成本高昂;HDD 容量充足但时延过高无法用于实时推理;SSD 兼顾低访问时延、高带宽、大容量与可扩展特性,是承载分层 KV 缓存的最优介质方案。
三星 PM1763 专为实时推理活跃 KV 缓存打造,基于三星自研 NAND 控制器、PCIe Gen6 架构,顺序读取最高 28.4GB/s,能效相比上代提升 1.8 倍,综合性能翻倍;硬件原生适配液冷机房,提供 E1.S、E3.S 多类标准化形态,已完成头部客户验证并进入大规模量产阶段。
新一代 AI 机房算力密度持续提升,传统风冷散热达到物理上限,整机液冷成为行业主流趋势。PM1763 硬件结构原生兼容直接液冷方案,可与 GPU、CPU 在同一高密度机柜稳定运行,持续满速输出性能,保障高负载推理场景下存储长期稳定运行。
当前 PM1763 采用 PCIe Gen6 标准,单通道带宽 32GB/s;三星已启动 PCIe Gen7 PM1783 产品研发,接口带宽提升至 64GB/s,单用户处理 TPS 实现大幅跃升,提前布局未来更大规模、更高并发的 AI 推理集群存储需求。
大量历史会话、推理轨迹具备复用价值,无需每次推理重复计算,分层架构中将低频长期上下文存入归档 KV 存储。推理任务启动时可直接调取归档数据预填充缓存,大幅削减算力重复开销,兼顾实时推理速度与海量历史数据留存需求。
BM1773 面向长期归档 KV 缓存场景设计,单盘最大容量 256TB,是业内单盘容量领先的 E3.S 形态 SSD;基于 PCIe Gen5 架构优化大容量数据吞吐,顺序读取速度最高 14.2GB/s,完整适配液冷高密度机房,单机架可实现 PB 级存储部署。
对比 E3.L 与 E3.S 两种硬件形态,E3.S 规格的 BM1773 机架空间利用率提升 35%,同等机柜空间可部署更多存储盘,在海量归档 KV 缓存场景下,有效降低机房机柜占用、优化整体部署成本,兼顾超大容量与机房空间效率。
三星面向 AI Token Factory 推出完整闪存产品矩阵:PM1763 负责低时延实时活跃 KV 缓存,BM1773 承载超大容量归档 KV 缓存,两层 SSD 与 HBM、DRAM 协同搭建完整分层存储体系,一站式解决智能体超长上下文存储痛点。
本次分享完整拆解 AI Token Factory 时代 KV 缓存扩容难题,通过 TLC、QLC 分层闪存补齐传统内存容量短板,同步推出量产 PCIe Gen6 存储与下一代 Gen7 技术路线,三星将持续迭代适配液冷、高密度 AI 机房的闪存方案,支撑智能体产业规模化落地。



https://www.chongdiantou.com/






