阿里云AirCache技术实现多模态大模型高效推理加速，入选国际顶会ICCV2025
阿里云研发的AirCache技术被计算机视觉顶会ICCV2025收录，该技术通过激活跨模态关联、优化KV缓存压缩策略，显著提升视觉语言模型（VLMs）的推理效率与存储性能。实验表明，在保留仅10%视觉缓存的情况下，模型性能下降小于1%，解码延迟最高降低66%，吞吐量提升达192%。AirCache无需修改模型结构，兼容主流VLMs，已在教育、医疗、政务等多个行业落地应用，助力多模态大模型高效赋能产业智能化升级。