直播预告:MantaKV 如何突破 AI 推理性能瓶颈? | 龙蜥大讲堂

简介: 深入剖析 AI 推理场景的核心需求与性能优化痛点。

「龙蜥大讲堂」4 月精彩预告来了,点击下方海报抢先了解。欢迎扫描海报二维码提前进群,立即预约锁定这场 AI 推理场景技术分享!

MantaKV:基于 CXL 共享内存的 KVCache 创新管理方案介绍

直播时间:2026 年 04 月 01 日 (周三)16:00-17:00

直播内容:

本次直播将深入剖析 AI 推理场景的核心需求与性能优化痛点,重点提出基于龙蜥操作系统面向 CXL 的 KVCache 管理解决方案;聚焦于 PD 分离架构下的 KVCache 复用场景,详细介绍 MantaKV 的创新机制,并展示其相较于传统 RDMA 方案所取得的显著性能提升。

适合人群:

AI 推理软件研发工程师。

讲师介绍:

Yihong Lian,浪潮信息系统软件架构师,研究领域为软件工程、分布式系统架构和设计。作为 MantaKV 的核心研发者,目前从事基于 CXL 共享内存加速 AI 推理的基础设施建设。

小龙温馨提醒:往期龙蜥大讲堂视频回放已上线至龙蜥官网,欢迎观看,有任何疑问欢迎随时咨询龙蜥助手—小龙(微信:openanolis_assis)。


相关文章
|
7月前
|
存储 人工智能 缓存
极速、稳定、丝滑:OpenClaw 接入 Mooncake 后的性能跃迁
OpenClaw 不只是更快了,更重要的是更稳了。
|
7月前
|
存储 人工智能 安全
|
8月前
|
达摩院 运维 Linux
RISC-V 基金会 Data Center SIG 第七次会议圆满结束,研讨硬件加速机制
围绕“为何需要 TG、要做哪些规范工作、如何证明可行(PoC)以及如何组织生态协作”等关键点展开讨论。
|
2月前
|
缓存 安全 网络安全
AiWCLOUD:高防CDN、免备案CDN、过移动屏蔽在架构设计与行业落地下
本文系统解析高防CDN技术:融合分布式清洗、智能调度与多层防护,实现“加速+安全”一体化;详解四层架构(调度、边缘、清洗、回源)、五大优势及游戏、电商、政务等典型场景,破除部署误区,指引运维实践与AI驱动的未来演进。(239字)
132 0
|
2月前
|
机器学习/深度学习 编解码 API
taobao.item_search_img 淘宝拍立淘API 返回完整字段说明
本文详解淘宝拍立淘API(taobao.item_search_img)图像选品方案:基于CNN视觉特征检索,突破关键词局限,精准识别同款/变体,解决漏筛、非标品适配差、跨境溯源难等痛点;涵盖原理、预处理、调用规范与实战落地,助力自动化、精细化智能选品。(239字)
|
2月前
|
存储 JSON Cloud Native
云原生架构实战:基于低成本多租户隔离与 AST 规则引擎的 O2O 中台重构
本文详解青海青帝如何构建高性价比O2O门店中台:采用混合多租户隔离降本,JSON Schema低代码+ AIGC生图提效,AST规则引擎实现毫秒级动态算价,Outbox模式保障业财一致。四维协同,兼顾极致成本与高扩展性。(239字)
131 0
|
7月前
|
人工智能 达摩院 云计算
玄铁 C950 发布!龙蜥社区加速 RISC-V 云计算落地
介绍龙蜥社区制定的 2025 年至 2030 年的五年发展规划,深入阐述龙蜥如何助力和加速RISC-V在云计算场景的落地。
|
5月前
|
人工智能 安全 Linux
【安全公告】Linux 内核高危本地提权漏洞 CVE-2026-31431 龙蜥已修复,请及时升级更新
龙蜥社区已发布 Anolis OS 7/8/23 的官方安全修复公告 ANSA-2026:0566、ANSA-2026:0565、ANSA-2026:0564。受影响用户请立即完成修复。

热门文章

最新文章