今天,真武AI芯片软件栈 T-Head SAIL® 正式开源,向全球开发者开放高效、开放的AI算力基础设施核心能力。
作为自主算力新标杆,真武AI芯片凭借卓越算力与数据中心系统级全栈协同生态,高效助力将AI算力落地为生产力,为千行百业智能化进程注入澎湃动能。T-Head SAIL 是平头哥为真武系列 AI 芯片打造的软件栈,拥有自主知识产权、全面兼容主流 AI 生态。软件栈覆盖 OS 层、SDK 层与接口层的完整链路——向下释放真武硬件算力,向上承接上层应用需求。
截至今年4月,真武 AI 芯片已累计出货56万片,服务20多个行业400多家客户。真武 AI 芯片及 T-Head SAIL 软件栈已在阿里云及多家头部客户的真实生产环境中历经深度打磨,扛过大规模流量、复杂场景以及严苛 SLA 的多重考验。
今天,这套经过严苛生产验证的 T-Head SAIL 软件栈方案将面向整个开发者社区开放。
T-Head SAIL 软件栈 - 真武AI芯片开发完整基座
从底层驱动到上层工具,T-Head SAIL软件栈由五层完整的技术栈组成,致力为开发者提供完整、可靠、开箱即用的开发体验。
- Driver与Runtime层:PPU Driver分为内核态的KMD与用户态的UMD,配合PPU Runtime提供统一的设备管理和内存管理接口;
- 编程语言层: 完整支持C/C++与Python,开发者无需学习新的语言或编程范式,支持现有代码资产平滑迁移;
- 编译器层: 包含Compiler与Debugger两大组件,构建完整的开发闭环;
- 高性能库层: 全面覆盖主流计算需求,为各类计算场景提供对应的高性能实现
- 计算库涵盖acBLAS、acDNN、acFFT、acRAND、acSOLVER、acSPARSE六大核心数学库,为大模型训练与推理提供支撑;
- 编解码库覆盖HGDEC、HGENC、HGJPEG与HGPP,满足多模态数据处理的高吞吐需求;
- 集合通信库包含PCCL与sailSHMEM,专为多卡、多机分布式训练设计,助力突破通信瓶颈;
- 此外配备acext扩展库与HGML机器学习库,拓展丰富功能边界
- 开发者工具层:丰富相应配套工具,赋能从单卡调试到千卡运维的全链路掌控
- Asight Compute支持算子级精细性能分析,帮助定位微观瓶颈;
- Asight Systems面向系统级全栈Profiling,提供宏观视角;
- PPU-SMI实现设备实时监控与管理;
- PPU-DCGM支撑集群级别的资源智能调度
面向开发者体验的软件栈
从第一行代码的创建开始,T-Head SAIL的建设始终秉持“以开发者体验为中心”的核心理念。通过零代码修改迁移、同频生态适配与全量框架覆盖三大核心能力,T-Head SAIL助力开发者实现三大“无需妥协”,致力于将开发过程中的效率提升与成本节约转化为可量化、可感知的业务增长。
- 无需重写代码,让既有资产无缝延续
T-Head SAIL兼容主流AI生态,主流模型即开即用,算子库完整对标,主流编程模型高度兼容。开发者过去积累的经验、代码、调优技巧,在 T-Head SAIL上都能直接复用,业务迁移仅需极少量代码适配修改、平滑顺畅。
- 无需等待适配,与前沿生态同频演进
AI技术迭代日新月异,平头哥自研推理引擎提供开箱即用的生产级性能,同时T-Head SAIL已完善建立与主流社区同频的响应机制,框架跟进、新模型适配速度迅捷极速。目前主流AI推理框架,T-Head SAIL平均适配时间<7天,开发者无需额外适配和调优,即可使用前沿最新的算子、特性与优化手段。
- 无需绑定框架平台,为开发提供灵活选择
T-Head SAIL 已全面适配PyTorch、TensorFlow、vLLM、SGLang等260余个主流训练与推理框架,开发者获取源码后即可直接编译运行,无需额外适配。T-Head SAIL支持按需灵活选用工具链,不绑定任何特定技术路线,保障技术选型的自主与开放。
智算无界,共行致远
平头哥开发者社区网站现已上线,汇聚 T-Head SAIL 全栈技术文档,提供 SDK 软件包、内核驱动、性能分析和调试工具下载,为开发者提供一站式服务。 社区地址:https://developer.t-head.cn/home
在即将推进的二期建设中,通信库相关软件、v2.2版本Docker与PIP源将开源开放,同时开发者社区网站将上线开发者论坛板块,搭建起真武与社区、开发者与开发者之间的常态化交流平台;三期将进一步开源计算加速库和推理引擎软件,并开放v2.3版本Docker与PIP源。未来,还将有更多更新与社区活动上线,敬请关注。