Agent 时代下的全局 KVCache 管理架构演进

本演讲聚焦Agent场景下KVCache的存储需求和带来的挑战，梳理了KVCache管理模式的演进路径。重点介绍了SGLang生态中的Hf3fsMetadataServer（MiniManager），以及阿里云即将开源的企业级全局KVCache管理系统—-TairKVCacheManager。该系统已实现对Mooncake的原生支持，为Agent时代的大模型推理提供稳定高效的KVCache存储支持。