FastGPU + Cloud Shell 极速部署人工智能计算

简介: 作者 | 李冬萌 阿里云开放平台高级开发工程师,主要负责阿里云 Cloud Shell,致力于开发者服务,为开发者提供方便、易用、安全的云上运维管理工具FastGPU + Cloud Shell 极速部署人工智能计算Cloud Shell正式集成FastGPU,您可以在Cloud Shell中随时随地在线FastGPU,将您的人工智能算法计算一键构建在阿里云的 IAAS 资源上,无需关心IAAS 层相关的计算、存储、网络等繁琐的部署操作。

_1226

作者 | 李冬萌 阿里云开放平台高级开发工程师,主要负责阿里云 Cloud Shell,致力于开发者服务,为开发者提供方便、易用、安全的云上运维管理工具

FastGPU + Cloud Shell 极速部署人工智能计算

Cloud Shell正式集成FastGPU,您可以在Cloud Shell中随时随地在线FastGPU,将您的人工智能算法计算一键构建在阿里云的 IAAS 资源上,无需关心IAAS 层相关的计算、存储、网络等繁琐的部署操作。

FastGPU

FastGPU 是⼀套构建在阿里云上的人工智能计算极速部署工具,其提供便捷的接口和自动化工具实现人工智能训练/推理计算在阿里云 IAAS资源上的快速部署。FastGPU 提供两套组件:

  • ncluster:运行时组件,提供便捷的 API 将线下人工智能训练/推理脚本快速的部署在阿里云 IAAS 资源上进行计算。
  • ecluster:命令行组件,提供便捷的命令行工具用于管理阿里云上人工智能计算的运行状态和集群的生命周期。

FastGPU 作为衔接用户线下人工智能算法和线上海量阿里云 GPU 计算资源的关键⼀环,方便用户将人工智能算法计算⼀键构建在阿⾥云的 IAAS 资源上,无需关心 IAAS 层相关的计算、存储、网络等繁琐的部署操作,做到简单适配、⼀键部署,随处运行的效果。为用户提供了省时、经济、便捷的基于阿里云 IAAS 资源的人工智能即刻构建方案。

1

FastGPU 三大亮点

亮点一:省时,资源创建时间缩短至 5 分
通过 FastGPU 您无需关心 VM 的镜像适配、多机训练的网络互通、文件/云盘存储资源挂载等问题,FastGPU 帮您自动完成,同时提供了方便的登录和状态管理。IAAS 集群资源创建时间缩短至 5 分钟内。

亮点二:省钱,GPU 资源的生命周期与训练任务无缝同步
当您的训练/推理业务触发或者数据集准备完后时才会购买 GPU 实例资源,最后当您的训练/推理任务结束后,会自动释放/停止 GPU 实例资源。同时利用飞天 AI 加速器大幅提升分布式训练速度,帮助您大幅节省资源花销。

亮点三:易用,所有资源均为 IaaS 层,可访问,可调试
简易的脚本适配,一次适配随时随处运行,同时基于 VM 的可视化管理,保证您的实验可回溯。

Cloud Shell

云命令行(Cloud Shell) 是网页版命令行工具。您可以在任意浏览器上运行云命令行管理阿里云资源。在云命令行启动时会自动为您分配一台 Linux 管理机,供您免费使用。在该虚拟机上会预装 CLI、Terraform 等多种云管理工具和 SSH、Vim、Jq 等系统工具,配合 Cloud Shell 提供的 Web IDE,辅助您完成日常的云资源管理。您可以通过教程学习使用Cloud Shell进一步认识 Cloud Shell。

Cloud Shell 五大亮点

亮点一:免费虚拟机并授权
当 Cloud Shell 运行时,会自动为您创建一台 Linux 虚拟机,您免费独享使用。当会话处于活跃状态时,实例长期有效。Cloud Shell 实现了自动授权,您无需额外操作即可使用命令行管理云资源,方便您快速使用云命令行。每个登录帐号所拥有管理权限等同于其在 RAM 中被授予的操作权限。同时,Cloud Shell 会对所有登录用户进行安全认证,并实现虚拟机按用户隔离,保证了运行环境的安全。

亮点二:永久性磁盘存储空间
Cloud Shell 可以绑定存储空间,为您提供永久存储,作为您在 Cloud Shell 实例上的 $HOME 目录。您存储在主目录中的所有文件(包括脚本以及 .bashrc 和 .vimrc 等用户配置文件)在不同会话、实例之间保持不变。

亮点三:代码编辑器
Cloud Shell 内置代码编辑器。通过 Cloud Shell 内置的 Web IDE,您不需要关心开发环境的配置以及各种依赖工具的安装,可以直接在线开发,并通过命令行执行或者部署。同时通过 Cloud Shell 绑定存储空间,您编辑的文件可以进行永久存储。

2

亮点四:教程模式
Cloud Shell 支持构建和启动教程,这些教程可帮助其他用户快速而有效地熟悉您的项目。
教程是一套用 Markdown 编写的说明。Cloud Shell 可以将 Markdown 文件中的文本解析为步骤和子步骤,从而创建出上下文教程。更多详细内容,您可以参考编写 Cloud Shell 教程

亮点五:内置众多管理工具
Cloud Shell 内置了阿里云 CLI、Terraform、FastGPU、Ansible 等众多工具,方便您随时随地直接使用,免去了安装配置的繁琐步骤。

在线体验

12 月 18 日晚,在英伟达GTC技术大会的开发者之夜上,阿里云潘岳同学在现场给开发者们介绍,他是怎么花几块钱、花了不到一小时,在阿里云上实现一个能识别剪刀石头布手势的 AI 小程序的。您可以在线进行体验。其中通过 FastGPU + Cloud Shell 完成了训练模型的极速部署。

3

同时您还可以通过一键部署并训练手势识别应用来体验手势识别的实践场景,体验使用 FastGPU 从资源部署到拿到训练结果的端到端通路。

相关文章
|
1月前
|
机器学习/深度学习 人工智能 TensorFlow
倚天产品介绍|倚天性能优化—YCL AI计算库在resnet50上的优化
Yitian710 作为平头哥第一代ARM通用芯片,在AI场景与X86相比,软件生态与推理性能都存在一定的短板,本文旨在通过倚天AI计算库的优化,打造适合ARM架构的软件平台,提升倚天性能
|
1月前
|
人工智能 JSON 数据格式
GEE、PIE和AI Earth平台进行案例评测:NDVI计算,结果差异蛮大
GEE、PIE和AI Earth平台进行案例评测:NDVI计算,结果差异蛮大
81 0
|
1月前
|
人工智能 分布式计算 算法框架/工具
揭开阿里巴巴PAI的神秘面纱:引领人工智能计算的新篇章
揭开阿里巴巴PAI的神秘面纱:引领人工智能计算的新篇章 随着人工智能技术的飞速发展,越来越多的企业开始关注并投入到AI的研究和应用中。阿里巴巴作为全球领先的科技公司,也在AI领域做出了卓越的贡献。今天,就让我们一起来揭开阿里巴巴PAI的神秘面纱,了解这个强大的AI平台如何引领人工智能计算的新篇章。 PAI,全称阿里巴巴公共AI平台,是一个集数据准备、模型开发与训练、模型部署于一体的综合性AI平台。PAI的业务架构分为五层,从基础设施层到业务层,涵盖了AI计算的全过程。
120 2
|
1月前
|
人工智能 弹性计算 PyTorch
【Hello AI】神行工具包(DeepGPU)-GPU计算服务增强工具集合
神行工具包(DeepGPU)是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合,旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力
129544 3
|
27天前
|
机器学习/深度学习 人工智能 搜索推荐
AI计算的未来趋势是什么?
【5月更文挑战第19天】AI计算的未来趋势是什么?
27 1
|
4天前
|
人工智能 网络架构 异构计算
以LLaMa 65B模型训练实例来计算AI/HPC算力光模块数量
本文介绍了如何根据LLaMa 65B模型训练需求计算所需的AI/HPC光模块数量。在案例中,使用2048个A100 GPU,单GPU算力为156 TFLOPS。模型算力需求为546*10^21 FLOPS,预计训练时间为20天。采用两层Fat-Tree网络架构,需1024个400G网卡,48台交换机,若全用400G光模块则需4096个,交换机间2048个,网卡间1024个。大成鹏通信提供200G至800G的解决方案,并提供咨询与支持服务。
以LLaMa 65B模型训练实例来计算AI/HPC算力光模块数量
|
27天前
|
机器学习/深度学习 人工智能 自然语言处理
AI计算在哪些方面可以提高教育模式的效率?
【5月更文挑战第19天】AI计算可以在多个方面提高教育模式的效率,具体包括: 智能教育环境:通过机器学习和自然语言处理技术,可以创建个性化的学习环境,根据学生的学习习惯和进度调整教学内容和难度,从而提高学 AI计算在哪些方面可以提高教育模式的效率?
51 1
|
27天前
|
机器学习/深度学习 人工智能 算法
AI计算
【5月更文挑战第19天】AI计算
28 2
|
1月前
|
机器学习/深度学习 SQL 人工智能
人工智能平台PAI产品使用合集之如何通过机器学习PAI 的Alink实现大量数据两两计算相关性
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
1月前
|
机器学习/深度学习 存储 人工智能
基于 SRAM 的存内计算助力实现节能 AI
基于 SRAM 的存内计算助力实现节能 AI