在 AI 大模型推理日益普及的今天,如何高效管理显存、降低延迟成为核心挑战。特别是在 PD 分离架构下,传统的KVCache 管理方式是否已触及天花板?本期龙蜥大讲堂将带来一场硬核技术分享,深入解析龙蜥操作系统面向未来的存储革新方案——MantaKV!
龙蜥社区(OpenAnolis)是面向国际的 Linux 服务器操作系统开源根社区及创新平台,秉承“平等、开放、协作、创新”的原则,理事会由阿里云、统信软件、龙芯、Arm 、Intel 等 24 家国内外头部企业共同组成,有超过 1000 家来自芯片厂商、软件厂商、整机厂商、操作系统厂商等覆盖操作系统全产业链的合作伙伴参与生态共建。