在第六届 RISC-V 中国峰会龙蜥生态分论坛上,由 RISC-V 国际基金会 Datacenter SIG Chair、龙蜥社区 RISC-V SIG Co-maintainer 宋卓主持,阿里巴巴达摩院资深技术专家、RISC-V 国际基金会 AME TG Chair 苏中,中兴通讯 RISC-V 运营总监易哲,澳门大学博士曲环宇,北京开源芯片研究院产品经理张健 4 位嘉宾共同参与了主题为“共话 Agentic CPU:RISC-V 服务器走向规模应用的门槛与机遇”的行业圆桌讨论,围绕 RISC-V 在 Agent CPU 优势、沙箱虚拟化挑战、弱一致模型及生态规模化落地等方向进行了深度探讨。
Agentic AI 为新架构提供了怎样的机会?高密度沙箱如何影响虚拟化设计?RISC-V 服务器又该如何跨越生态迁移与规模落地的门槛?让我们走进本次圆桌讨论,看看四位嘉宾从技术与产业视角带来了哪些独到见解。
(图/圆桌讨论现场)
新场景带来新机会:RISC-V 如何构建 Agentic CPU 优势
宋卓:我们希望围绕未来 AI 场景,以及 RISC-V 在数据中心应用中的关键问题展开讨论。首先,基于 RISC-V 架构构建 Agentic CPU,有哪些新的机会或优势?其他架构也在探索与 AI 的结合,RISC-V 能够发挥怎样的差异化价值?请几位老师分享一下自己的看法。
苏中:我认为,RISC-V 进入数据中心,不仅要解决性能问题,还要跨越稳定性与可靠性的门槛。服务器承载业务,故障带来的不只是 IT 成本,更是业务成本,而可靠性需要长期运行经验积累。
Agentic AI 的软件生态尚未成熟定型,相对传统应用,软件层较薄,对既有生态的依赖较少。RISC-V 与其他架构的矩阵扩展也在持续发展,因此有机会与 Agentic AI 同步建设。我看重开放生态的价值:如果能与软件社区、AI 社区协同演进,就有机会形成 AI 原生的生态与社区。
易哲:让 RISC-V 成为 AI 原生架构,是业界共同努力的一个愿景。开放、免指令集授权费的特点,使它能够灵活响应 Agentic CPU 对扩展、沙箱和并发能力的新需求。相比通常由特定公司主导的传统架构,开放架构的响应节奏可能更灵活。RISC-V 可以针对新场景增加扩展,让架构更好地匹配应用需求,这是我看重的优势。
曲环宇:我更关注 AI 基础设施中的软硬件分工。大模型主要在 GPU 上运行,工具调用主要由 CPU 承担,Agent 系统中还包含其他执行工作及小模型,比如 embedding、reranker 等模型。有些任务放在 GPU 上会浪费资源,放在传统 CPU 上又不够高效。RISC-V 可以探索新的指令或处理器设计,更好地匹配这些负载。此外,我认为对于 Agent 负载,CPU 与 GPU 协同同样重要。举例而言,当工具调用时,GPU 需要持续保留上下文与 KV Cache 在 HBM 中;如果 CPU 单核性能不足,工具调用耗时较长,长时间的 KV cache 占用就可能影响 GPU 并发。因此,优化目标不只是 CPU 自身性能,还包括 CPU-GPU 之间的配合以及整个 Agent 系统的效率。
张健:我认为,开放生态让大家有机会在通用计算和智能计算中采用一致的指令集与规范,以 RVA23、AME 等规范为基础开展协作。否则,AI 场景下不同实现之间的不一致可能增加研发成本。共同的开放规范也让协作能够更早展开,不必等到产品推出后再沟通。新场景通常意味着新机会,历史包袱相对较少,也就可能拥有更大的优化空间。
高密度与短生命周期:Agent 沙箱对虚拟化提出哪些要求
宋卓:从架构机会进一步看实际负载,在高密度 Agent 和沙箱场景下,RISC-V 虚拟化技术会面临哪些新的挑战与要求?
张健:沙箱需要区分不同实现方式:既可以是纯软件方案,也可以是基于虚拟化的软硬件协同方案。不同方案对硬件和软硬件配合的要求并不相同。
从部署密度看,我个人理解,沙箱数量可能达到 CPU 核心数的十倍。例如,百核处理器可能需要支持 1000 个沙箱。在这种情况下,CPU、内存、中断及 I/O 性能都会变得重要,值得进一步寻找关键的优化点。
曲环宇:Agent 时代的沙箱与过去的云虚拟机存在明显差异。相较于 Agent 负载,传统云虚拟机的并发规模通常没有那么高,运行时间则往往更长;Agent 负载可能突然产生大量沙箱,并且生命周期很短。因此,沙箱创建和销毁的开销,以及对内存的影响,需要得到更多关注。另一个值得关注的问题是嵌套部署。如果应用方租用的环境已经是虚拟机,运行 Agent 时又在其中创建沙箱,就可能形成多层虚拟化。在这种场景下,更高效的中断处理可能需要新的硬件支持。此外,对于agent沙箱,安全需求也会更加突出。
易哲:RISC-V 的 H 扩展在应对沙箱场景时,还有需要补充和完善的能力。嵌套场景需要两级虚拟化支持。在我看来,现有 H 扩展基本只能完成操作系统级虚拟化。对于轻量级沙箱,我认为必须支持更细粒度的虚拟化能力。安全隔离也很重要。沙箱面对多个用户,每个用户都关心自己的数据是否会被他人访问。因此,必须做好隔离、保障数据安全。这也是RISC-V相关标准讨论中持续强调的方向,是我看重的架构优势。
苏中:Agentic AI 仍处在很早的阶段,需求会继续变化。当前上下文还比较短,随着上下文增长,KV Cache 是否共享、如何共享将成为问题,否则系统可能面临资源不足。除了两层虚拟化,也可能出现组与组之间的权限隔离等复杂要求。面对新的架构需求,我们可以在标准社区推动工作组或 SIG 开展讨论,争取更早响应。模型、应用、软件生态与开源社区的参与者需要协同推进。
用好弱一致性:在原生优化与二进制兼容之间寻找平衡
宋卓:RISC-V 与 AI 的结合,可能进一步影响未来 CPU 架构,也带来更多创新机会。在已有架构特性中,RISC-V 的弱一致性模型在技术与生态上有哪些挑战?
张健:既然选择了弱一致性模型,就应先把它用好。如果能够获得源代码并重新编译,应充分发挥 RISC-V 弱一致性模型的能力,做好软硬件协同与优化。如果没有源代码,只有其他架构的二进制程序,我们仍需要考虑兼容与优化。我的理解是,不一定要重新设计完整的内存模型,可以探索在用户态兼容其他架构的内存序,例如 TSO 等较强内存序模型。既方便有二进制程序运行,又不对 RISC-V 整体生态造成根本性影响,这可能是一种平衡方式。最终仍要结合具体业务,评估迁移是否值得,以及采用何种兼容与优化方式。
宋卓:结合我们此前的实践,我认为弱一致性模型也可能给稳定性以及数据相关问题的定位带来挑战,与 x86 存在区别。二进制翻译等方案同样需要面对性能损耗和优化难度,业务真正采用之前,必须评估实际性能。生态迁移既包含技术问题,也涉及策略选择,这就进一步引出了服务器市场如何推动客户采用 RISC-V 的问题。
从客户需求出发:选择适合迁移的场景
宋卓:面向服务器市场,我们应如何推动客户向 RISC-V 架构迁移,让更多用户真正采用 RISC-V?
易哲:我一直在与合作伙伴和客户交流,推动客户使用 RISC-V。不同客户有不同考量,关键是发挥RISC-V自身优势,而不是一开始就直接进入 x86 优势明显的场景。我认为,技术上,优先切入业务偏后端、生态相对依赖度小的存储、视频等场景;商业上,面向互联网厂商,更注重体现总体拥有成本(TCO)优势;对于 Agentic、CPU 等新型场景,用户迁移也相对容易。
灵活性与生态稳定:让库与编译器承接硬件差异
宋卓:RISC-V 可定制、灵活的特点是否也是一把双刃剑?我们应如何取舍,既发挥架构灵活性,又维护软件生态的稳定?
曲环宇:我认为,可以借鉴英伟达通过软件层承接硬件差异的思路。在英伟达的软件栈中,PTX 层保持相对稳定,承接上层 CUDA 代码;更底层的 SASS 机器码随硬件代际变化,且不直接向用户开放。这样,底层可以有不同实现,上层软件仍保持相对稳定。对 RISC-V 而言,面向用户或平台的指令与接口应相对稳定,底层则可围绕 AME 等扩展灵活实现。通过库与编译器暴露能力,让用户调用矩阵乘法或卷积,而不必直接承担每代硬件的差异,有助于兼顾底层灵活性与上层稳定性。
宋卓:软件层还需要承担更多兼容性工作。
从适配数量到规模落地:以真实应用形成协同闭环
宋卓:最后,RISC-V 生态如何从适配数量增长走向规模化落地?应该选择哪些真实应用,又该如何衡量落地效果?
苏中:我认为,规模落地还没有现成答案。RISC-V 进入数据中心仍处于起步阶段,需要技术供给与应用需求双向投入。规模不足,单位研发成本就较高,稳定性也需要在实际应用中持续打磨。
Agentic AI 让各架构的软件生态起步相对接近,是新的机会;也可以借鉴业界优秀厂商的路径,从存储、网络等生态相对简单的场景切入,逐步完善操作系统与基础软件。我们还希望矩阵扩展尽快完成正式批准,并形成统一的软件接口,为端侧、服务器推理乃至未来训练带来可能机会。开放生态需要各方形成合力,才能把机会推动起来。
这次圆桌是一个交流起点,RISC-V 在生产应用、规模落地以及与 AI 结合的过程中,还有许多问题需要解决,也有联合创新的机会值得探索。我们期待更多业界同仁共同参与,通过持续协作推动相关工作向前发展。
🔥填问卷有礼!
你希望 AI 帮你解决哪些开发难题?龙蜥社区正在收集开发者对 AI 能力的真实需求,社区将为做出精彩回答的小伙伴寄送一份社区精美礼品,感谢你的认真参与和真诚分享!