开发者社区 > 龙蜥操作系统 > 视频 > 正文

异构场景下的大模型推理优化技术

发布者:龙蜥社区(OpenAnolis) 2026-06-11 17:23:34 8
视频介绍

本期龙蜥大讲堂将会为大家讲解异构推理的基本过程和存在的问题,分析在基于龙蜥操作系统的硬件资源受限场景下,稠密模型和MoE模型在CPU端的卸载技术。


视频标签:

龙蜥社区(OpenAnolis)是面向国际的 Linux 服务器操作系统开源根社区及创新平台,秉承“平等、开放、协作、创新”的原则,理事会由阿里云、统信软件、龙芯、Arm 、Intel 等 24 家国内外头部企业共同组成,有超过 1000 家来自芯片厂商、软件厂商、整机厂商、操作系统厂商等覆盖操作系统全产业链的合作伙伴参与生态共建。

+关注
龙蜥社区(OpenAnolis)
欢迎加入OpenAnolis龙蜥社区:钉钉群号 43205002258。
文章
问答
视频
相关文章
更多