真武AI芯片 T-Head SAIL® 软件栈正式开源开放!

简介: 今天,真武AI芯片软件栈 T-Head SAIL® 正式开源,向全球开发者开放高效、开放的AI算力基础设施核心能力。

今天,真武AI芯片软件栈 T-Head SAIL® 正式开源,向全球开发者开放高效、开放的AI算力基础设施核心能力。


作为自主算力新标杆,真武AI芯片凭借卓越算力与数据中心系统级全栈协同生态,高效助力将AI算力落地为生产力,为千行百业智能化进程注入澎湃动能。T-Head SAIL 是平头哥为真武系列 AI 芯片打造的软件栈,拥有自主知识产权、全面兼容主流 AI 生态。软件栈覆盖 OS 层、SDK 层与接口层的完整链路——向下释放真武硬件算力,向上承接上层应用需求。


截至今年4月,真武 AI 芯片已累计出货56万片,服务20多个行业400多家客户。真武 AI 芯片及 T-Head SAIL 软件栈已在阿里云及多家头部客户的真实生产环境中历经深度打磨,扛过大规模流量、复杂场景以及严苛 SLA 的多重考验。


今天,这套经过严苛生产验证的 T-Head SAIL 软件栈方案将面向整个开发者社区开放。


T-Head SAIL 软件栈 - 真武AI芯片开发完整基座



从底层驱动到上层工具,T-Head SAIL软件栈由五层完整的技术栈组成,致力为开发者提供完整、可靠、开箱即用的开发体验。

  • Driver与Runtime层:PPU Driver分为内核态的KMD与用户态的UMD,配合PPU Runtime提供统一的设备管理和内存管理接口;
  • 编程语言层: 完整支持C/C++与Python,开发者无需学习新的语言或编程范式,支持现有代码资产平滑迁移;
  • 编译器层: 包含Compiler与Debugger两大组件,构建完整的开发闭环;
  • 高性能库层: 全面覆盖主流计算需求,为各类计算场景提供对应的高性能实现
  • 计算库涵盖acBLAS、acDNN、acFFT、acRAND、acSOLVER、acSPARSE六大核心数学库,为大模型训练与推理提供支撑;
  • 编解码库覆盖HGDEC、HGENC、HGJPEG与HGPP,满足多模态数据处理的高吞吐需求;
  • 集合通信库包含PCCL与sailSHMEM,专为多卡、多机分布式训练设计,助力突破通信瓶颈;
  • 此外配备acext扩展库与HGML机器学习库,拓展丰富功能边界
  • 开发者工具层:丰富相应配套工具,赋能从单卡调试到千卡运维的全链路掌控
  • Asight Compute支持算子级精细性能分析,帮助定位微观瓶颈;
  • Asight Systems面向系统级全栈Profiling,提供宏观视角;
  • PPU-SMI实现设备实时监控与管理;
  • PPU-DCGM支撑集群级别的资源智能调度

面向开发者体验的软件栈


从第一行代码的创建开始,T-Head SAIL的建设始终秉持“以开发者体验为中心”的核心理念。通过零代码修改迁移、同频生态适配与全量框架覆盖三大核心能力,T-Head SAIL助力开发者实现三大“无需妥协”,致力于将开发过程中的效率提升与成本节约转化为可量化、可感知的业务增长。


  • 无需重写代码,让既有资产无缝延续

T-Head SAIL兼容主流AI生态,主流模型即开即用,算子库完整对标,主流编程模型高度兼容。开发者过去积累的经验、代码、调优技巧,在 T-Head SAIL上都能直接复用,业务迁移仅需极少量代码适配修改、平滑顺畅。


  • 无需等待适配,与前沿生态同频演进

AI技术迭代日新月异,平头哥自研推理引擎提供开箱即用的生产级性能,同时T-Head SAIL已完善建立与主流社区同频的响应机制,框架跟进、新模型适配速度迅捷极速。目前主流AI推理框架,T-Head SAIL平均适配时间<7天,开发者无需额外适配和调优,即可使用前沿最新的算子、特性与优化手段。


  • 无需绑定框架平台,为开发提供灵活选择

T-Head SAIL 已全面适配PyTorch、TensorFlow、vLLM、SGLang等260余个主流训练与推理框架,开发者获取源码后即可直接编译运行,无需额外适配。T-Head SAIL支持按需灵活选用工具链,不绑定任何特定技术路线,保障技术选型的自主与开放。

智算无界,共行致远


平头哥开发者社区网站现已上线,汇聚 T-Head SAIL 全栈技术文档,提供 SDK 软件包、内核驱动、性能分析和调试工具下载,为开发者提供一站式服务。 社区地址:https://developer.t-head.cn/home


在即将推进的二期建设中,通信库相关软件、v2.2版本Docker与PIP源将开源开放,同时开发者社区网站将上线开发者论坛板块,搭建起真武与社区、开发者与开发者之间的常态化交流平台;三期将进一步开源计算加速库和推理引擎软件,并开放v2.3版本Docker与PIP源。未来,还将有更多更新与社区活动上线,敬请关注。

相关文章
|
4月前
|
人工智能 开发工具 开发者
龙蜥 AI Infra 新力量:T-Head SAIL 软件栈正式开源
T-Head SAIL 已基于龙蜥 Anolis Cloud Kernel (ANCK)内核完成原生驱动适配,支持开箱即用。
|
2月前
|
人工智能 固态存储 智能网卡
一颗真武V900,平头哥的“算力野心”藏不住了
9月22日云栖大会,平头哥发布中国最强AI芯片真武V900:216GB显存、1200GB/s互联带宽,性能达前代3倍;同步推出“真超节点”,支持千卡全带宽互联与统一内存编址;依托倚天CPU、磐脉网卡、镇岳SSD等全栈自研芯片,构建为AI而生的系统级计算架构。
818 0
|
8月前
|
机器学习/深度学习 存储 人工智能
业务逻辑的“坍塌”:当应用层只剩下胶水代码,在 AI Agent 时代,我们该构建什么
作者通过亲手编写代码、研究底层原理和对比传统架构,系统地梳理了从“怀疑 AI”到“理解并驾驭 AI”的心路历程。
842 148
业务逻辑的“坍塌”:当应用层只剩下胶水代码,在 AI Agent 时代,我们该构建什么
|
4月前
|
人工智能 API 芯片
重磅!阿里云真武 M890 超节点 Day0 适配 Kimi K3,国产算力支撑近 3 万亿参数大模型
阿里云真武M890超节点实例Day0适配Kimi K3(近3万亿参数),国内首个跑通该规模模型的超节点。依托64卡全互联、9TB显存与ICN Switch高速网络,突破算力瓶颈;软硬协同优化后,首Token时延降35%,单卡吞吐提升1.8倍。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens
600 1
|
3月前
|
人工智能 自动驾驶 搜索推荐
阿里云灵骏 GP9A 超节点详解:自研真武 M890 芯片、万亿参数 MoE 推理规格对比
阿里云灵骏GP9A超节点实例,基于自研真武M890P芯片,64卡全互联架构,提供9216GB显存、1024核CPU与18.4TB内存,支持MXFP4/FP8/BF16等多精度,原生兼容主流AI框架,专为万亿参数MoE模型训推、自动驾驶、搜推广及多模态场景优化。阿里云智能计算灵骏官网:https://t.aliyun.com/U/WjA3cK
817 0
|
10月前
|
存储 人工智能 安全
一文详解Kimi的AI Agent如何跑在阿里云上
Kimi携手阿里云,基于ACK与ACS Agent Sandbox构建端到端Agent基础设施:实现秒级沙箱启动、万级并发弹性调度、会话级状态保持及强安全隔离,支撑“深度研究”“OK Computer”等智能体产品稳定高效运行。(239字)
1891 1
一文详解Kimi的AI Agent如何跑在阿里云上
|
5月前
|
人工智能 Java 数据库连接
都是 AI Coding,为什么 Java 体验差了一个量级?五条方法论帮你构建自己的 Harness 环境
本文探讨Java微服务项目AI编码体验差的根源——本地无法运行导致AI无法自主验证。提出三大改造原则:接口抽象+Profile隔离实现零侵入本地化;CLI优先让AI可调用工具;最小可运行子集替代外部依赖。实践后,Bug修复从30分钟缩短至2分钟内闭环。
|
6月前
|
人工智能 运维 供应链
Ontological Engineering:基于PolarDB-PG智能本体引擎实现“数据驱动”到“决策中心”
Ontology源自哲学“存在之学”,在AI中构建企业级语义层,实现对象、关系与动作的结构化建模。PolarDB-PG嵌入轻量级Ontology引擎,支持OAG(本体增强生成),解决LLM语义模糊、逻辑幻觉等落地难题,赋能供应链、运维、营销等高可靠智能决策场景。
Ontological Engineering:基于PolarDB-PG智能本体引擎实现“数据驱动”到“决策中心”
|
5月前
|
人工智能 API 开发者
阿里云发布为Agent而生的全新AI产品官网“千问云”,模型服务全面Skill、CLI化
5月20日,阿里云发布“千问云”(www.qianwenai.com)——专为Agent时代打造的AI模型服务平台,集成150+主流模型API,首创Skills与CLI工具链,支持模型选型、调用、用量管理等全链路自动化,助力开发者与Agent高效构建AI应用。
2798 32

热门文章

最新文章