MindSpore基础介绍

简介: 本文将会整体对华为AI全栈进行介绍,并介绍MindSpore在其中的位置等内容。

本文将会整体对华为AI全栈进行介绍,并介绍MindSpore在其中的位置等内容。
昇腾计算,是基于昇腾系列处理器构建的全栈AI计算基础设施及应用,包括昇腾Ascend系列芯片、Altas系列硬件、CANN芯片使能、MindSpore AI框架、ModelArts、MindX应用使能等。

其中华为Atlas人工智能计算解决方案,是基于昇腾系列AI处理器,通过模块、板卡、小站、服务器、集群等丰富的产品形态,打造面向“端、边、云”的全场景AI基础设施方案,涵盖数据中心解决方案、智能边缘解决方案,覆盖深度学习领域推理和训练全流程。
其中,每个模块的作用介绍:
Atlas系列产品:提供AI训练、推理卡及训练服务器(了解更多)。
CANN(异构计算架构):芯片使能、驱动层(了解更多)。
MindSpore(AI框架):全场景AI框架(了解更多)。
MindX SDK(昇腾SDK):行业SDK和应用解决方案(了解更多)。
ModelArts(AI开发平台):华为云AI开发平台(了解更多)。
Mindstudio(全流程开发工具链):AI全流程开发IDE(了解更多)。
MindSpore是一个全场景深度学习框架,旨在实现易开发、高效执行、全场景覆盖三大目标,其中易开发表现为API友好、调试难度低,高效执行包括计算效率、数据预处理效率和分布式训练效率,全场景则指框架同时支持云、边缘以及端侧场景。
MindSpore总体架构如下图所示,分为前端表示层(Mind Expression,ME)、计算图引擎(Graph Engine,GE)和后端运行时三个部分。

MindSpore Extend(扩展层):MindSpore的扩展包,期待更多开发者来一起贡献和构建;
MindExpress(表达层):基于Python的前端表达,未来计划陆续提供C/C++、Java等不同的前端;MindSpore也在考虑自研编程语言前端-仓颉,目前还处于预研阶段;同时,内部也在做与Julia等第三方前端的对接工作,引入更多的第三方生态。
MindCompiler(编译优化层):图层的核心编译器,主要基于端云统一的MindIR实现三大功能,包括硬件无关的优化(类型推导/自动微分/表达式化简等)、硬件相关优化(自动并行、内存优化、图算融合、流水线执行等)、部署推理相关的优化(量化/剪枝等);其中,MindAKG是MindSpore的自动算子生成编译器,目前还在持续完善中。
MindRE(全场景运行时):这里含云侧、端侧以及更小的IoT。

相关文章
|
存储 算法 编译器
【C++ 函数尾部返回】C++中的尾返回类型:探究auto func() -> ReturnType的魔力
【C++ 函数尾部返回】C++中的尾返回类型:探究auto func() -> ReturnType的魔力
715 1
|
8月前
|
机器学习/深度学习 自然语言处理 安全
企业建设智能客服系统要多少钱?2026年最新收费标准与成本预算指南
2026年,智能客服已成企业降本增效的“必修课”。瓴羊Quick Service依托阿里云大模型与数据智能能力,提供SaaS订阅、行业定制、分润合作三大灵活模式,覆盖轻量启动到深度赋能全场景,让企业以合理预算打造真正“会思考”的数字员工。(239字)
|
7月前
|
数据采集 缓存 Java
Python、Java、PHP 三种语言实现爬虫的核心技术对比与示例
本文对比Python、Java、PHP三大语言爬虫技术,涵盖核心工具(如Scrapy/Jsoup/Goutte)、典型代码示例及异步、分布式、缓存等性能优化策略,并给出选型建议与反爬合规实践,助开发者高效构建稳定爬虫系统。
|
编解码 算法 数据可视化
MATLAB 实现同步压缩小波变换
MATLAB 实现同步压缩小波变换
802 3
|
缓存 自然语言处理 API
Ascend推理组件MindIE LLM
MindIE LLM是基于昇腾硬件的大语言模型推理组件,提供高性能的多并发请求调度与优化技术,如Continuous Batching、PageAttention等,支持Python和C++ API,适用于高效能推理需求。其架构包括深度定制优化的模型模块、文本生成器和任务调度管理器,支持多种模型框架和量化方式,旨在提升大规模语言模型的推理效率和性能。
|
搜索推荐
大模型训练常见通信源语解释
本文总结了在大模型分布式训练中常用的通信原语,包括一对多操作(Broadcast、Scatter)、多对一操作(Gather、Reduce)以及多对多操作(AllGather、AllReduce、ReduceScatter、All-To-All)。这些操作在模型并行和数据并行场景中起到关键作用,如参数初始化、数据切分与汇聚、规约运算等。通过详细介绍每种通信方式的功能与应用场景,帮助理解分布式训练中的数据交互机制。
2149 2
中断向量表的作用是什么?
【10月更文挑战第28天】中断向量表在计算机系统中扮演着至关重要的角色,它是实现中断处理、优先级管理、系统初始化以及硬件与软件交互的核心机制。通过中断向量表,计算机系统能够高效地响应各种中断事件,保证系统的稳定性、可靠性和实时性,为计算机的正常运行和各种应用程序的执行提供了有力支持。
1869 60
|
机器学习/深度学习 计算机视觉
YOLOv11改进策略【注意力机制篇】| ICCV2023 聚焦线性注意力模块 Focused Linear Attention 聚焦能力与特征多样性双重提升,含二次创新
YOLOv11改进策略【注意力机制篇】| ICCV2023 聚焦线性注意力模块 Focused Linear Attention 聚焦能力与特征多样性双重提升,含二次创新
650 1
|
Linux iOS开发 MacOS
python的virtualenv虚拟环境常见问题和命令
`venv`是Python的内置模块,用于创建隔离的虚拟环境。创建虚拟环境如`python3 -m venv myenv`,激活环境在Windows上是`./venv/Scripts/activate`,在Unix-like系统是`source myenv/bin/activate`。退出环境用`deactivate`。`pip list`查看已安装包,`pip install`安装包,`pip freeze > requirements.txt`保存依赖。PyCharm中红色`venv`表示项目使用了虚拟环境。
1906 2
 python的virtualenv虚拟环境常见问题和命令
|
安全 关系型数据库 Linux