MindSpore基础介绍

简介: 本文将会整体对华为AI全栈进行介绍,并介绍MindSpore在其中的位置等内容。

本文将会整体对华为AI全栈进行介绍,并介绍MindSpore在其中的位置等内容。
昇腾计算,是基于昇腾系列处理器构建的全栈AI计算基础设施及应用,包括昇腾Ascend系列芯片、Altas系列硬件、CANN芯片使能、MindSpore AI框架、ModelArts、MindX应用使能等。

其中华为Atlas人工智能计算解决方案,是基于昇腾系列AI处理器,通过模块、板卡、小站、服务器、集群等丰富的产品形态,打造面向“端、边、云”的全场景AI基础设施方案,涵盖数据中心解决方案、智能边缘解决方案,覆盖深度学习领域推理和训练全流程。
其中,每个模块的作用介绍:
Atlas系列产品:提供AI训练、推理卡及训练服务器(了解更多)。
CANN(异构计算架构):芯片使能、驱动层(了解更多)。
MindSpore(AI框架):全场景AI框架(了解更多)。
MindX SDK(昇腾SDK):行业SDK和应用解决方案(了解更多)。
ModelArts(AI开发平台):华为云AI开发平台(了解更多)。
Mindstudio(全流程开发工具链):AI全流程开发IDE(了解更多)。
MindSpore是一个全场景深度学习框架,旨在实现易开发、高效执行、全场景覆盖三大目标,其中易开发表现为API友好、调试难度低,高效执行包括计算效率、数据预处理效率和分布式训练效率,全场景则指框架同时支持云、边缘以及端侧场景。
MindSpore总体架构如下图所示,分为前端表示层(Mind Expression,ME)、计算图引擎(Graph Engine,GE)和后端运行时三个部分。

MindSpore Extend(扩展层):MindSpore的扩展包,期待更多开发者来一起贡献和构建;
MindExpress(表达层):基于Python的前端表达,未来计划陆续提供C/C++、Java等不同的前端;MindSpore也在考虑自研编程语言前端-仓颉,目前还处于预研阶段;同时,内部也在做与Julia等第三方前端的对接工作,引入更多的第三方生态。
MindCompiler(编译优化层):图层的核心编译器,主要基于端云统一的MindIR实现三大功能,包括硬件无关的优化(类型推导/自动微分/表达式化简等)、硬件相关优化(自动并行、内存优化、图算融合、流水线执行等)、部署推理相关的优化(量化/剪枝等);其中,MindAKG是MindSpore的自动算子生成编译器,目前还在持续完善中。
MindRE(全场景运行时):这里含云侧、端侧以及更小的IoT。

相关文章
|
存储 算法 编译器
【C++ 函数尾部返回】C++中的尾返回类型:探究auto func() -> ReturnType的魔力
【C++ 函数尾部返回】C++中的尾返回类型:探究auto func() -> ReturnType的魔力
668 1
|
程序员 人工智能 Serverless
通义灵码保姆级教程:官网、安装、使用指南、常见问题、线上活动、官方答疑
通义灵码保姆级教程:官网、安装、使用指南、常见问题、线上活动、官方答疑
24284 1
|
存储 JSON 安全
Python枚举进化论:IntEnum与StrEnum的实战指南
Python 3.4引入的Enum类提升了代码可维护性,而3.11新增的IntEnum和StrEnum进一步优化了枚举类型的设计,分别支持整数和字符串行为,增强了类型安全与开发效率,适用于游戏状态、订单管理等多种场景。
490 0
|
机器学习/深度学习 缓存 边缘计算
《当AutoScheduler遇见边缘端:Apache TVM如何重塑模型算子的极限》
边缘设备硬件资源差异显著,运行深度学习模型时算子优化面临诸多挑战。传统手动优化耗时费力且易出错,难以适应日益复杂的模型需求。Apache TVM作为开源深度学习编译器栈,通过中间表示(IR)层实现框架与硬件的高效对接,并提供稳定优化平台。其核心组件AutoScheduler引入智能化自动优化流程,能根据硬件特性生成搜索空间、构建成本模型,快速找到最优策略,大幅提高计算效率并降低能耗。实际应用中,AutoScheduler在智能家居和工业物联网等领域表现出色,未来有望支持更复杂硬件及模型,推动边缘计算技术发展。
383 0
|
缓存 自然语言处理 API
Ascend推理组件MindIE LLM
MindIE LLM是基于昇腾硬件的大语言模型推理组件,提供高性能的多并发请求调度与优化技术,如Continuous Batching、PageAttention等,支持Python和C++ API,适用于高效能推理需求。其架构包括深度定制优化的模型模块、文本生成器和任务调度管理器,支持多种模型框架和量化方式,旨在提升大规模语言模型的推理效率和性能。
|
搜索推荐
大模型训练常见通信源语解释
本文总结了在大模型分布式训练中常用的通信原语,包括一对多操作(Broadcast、Scatter)、多对一操作(Gather、Reduce)以及多对多操作(AllGather、AllReduce、ReduceScatter、All-To-All)。这些操作在模型并行和数据并行场景中起到关键作用,如参数初始化、数据切分与汇聚、规约运算等。通过详细介绍每种通信方式的功能与应用场景,帮助理解分布式训练中的数据交互机制。
1974 2
|
Kubernetes 安全 数据安全/隐私保护
容器云服务是什么?
容器云基于容器技术,实现应用及其依赖的标准化封装,支持跨平台快速部署和高效管理。与传统虚拟机相比,容器共享宿主机操作系统内核,资源占用少、启动快,但隔离性稍弱。Docker Engine通过Dockerfile定义应用环境并生成容器镜像,适合单机场景;Kubernetes作为行业标准编排工具,支持自动扩缩容和服务发现,适用于大规模集群管理;OpenShift提供企业级全流程平台,满足合规要求;Rancher简化多云环境下的Kubernetes管理;CoreOS Tectonic专注于安全性,适用于高安全需求领域。容器云正朝着无服务器化、智能运维和边缘协同等方向发展。
1114 1
|
Dubbo IDE 应用服务中间件
精通 Python aiohttp:逐步教程
aiohttp 就是 Python 中一款优秀的异步 Web 框架,它能够帮助我们构建高效的异步 Web 应用和异步 HTTP 客户端。在本文中,我们将深入探讨 aiohttp 是什么以及如何使用它,通过简单易懂的案例带领你理解异步编程,以及如何处理异步请求和异步 HTTP 客户端。
|
Linux iOS开发 MacOS
python的virtualenv虚拟环境常见问题和命令
`venv`是Python的内置模块,用于创建隔离的虚拟环境。创建虚拟环境如`python3 -m venv myenv`,激活环境在Windows上是`./venv/Scripts/activate`,在Unix-like系统是`source myenv/bin/activate`。退出环境用`deactivate`。`pip list`查看已安装包,`pip install`安装包,`pip freeze > requirements.txt`保存依赖。PyCharm中红色`venv`表示项目使用了虚拟环境。
1740 2
 python的virtualenv虚拟环境常见问题和命令
|
算法 大数据 数据处理
一文读懂AutoSAR通信模块
一文读懂AutoSAR通信模块
一文读懂AutoSAR通信模块