带你读《弹性计算技术指导及场景应用》——1. 所以!云服务器也可以玩转大模型?(1)

简介: 带你读《弹性计算技术指导及场景应用》——1. 所以!云服务器也可以玩转大模型?(1)

实验简介

本场景会自动创建一台ECS实例,通过计算巢的服务用户可以即刻体验到“为难”大模型的游戏,随时畅玩。

背景知识

计算巢服务

计算巢是一个面向ISVSIMSP(统称为服务商)的云集成PaaS平台,方便服务商更好地将产品、服务和阿里云集成,借助云原生的能力提升软件服务在交付、部署及后续管理(如:资源扩缩容、软件升级、许可证管理、代运维等)等环节的效率。为最终用户提供更高效、便捷、安全的软件服务和使用体验。

云服务器ECS

云服务器 ECSElastic Compute Service)是一种安全可靠、弹性可伸缩的云计算服务,助您降低IT成本,提升运维效率,使您更专注于核心业务创新。

实验资源方式简介及开始实验

1) 云起实验室实验资源方式介绍

云起实验室支持个人账户资源一种实验资源方式。

∙        个人账户资源

◦        使用您个人的云资源进行操作,资源归属于个人。

◦        所有实验操作将保留至您的账号,请谨慎操作。

◦        平台仅提供手册参考,不会对资源做任何操作。

2) 准备开始实验

在实验开始前,请您选择个人账号资源,单击确认开启实验。  

image.png

DashScope免费额度开通

在开始实验前,用户需要开通模型服务灵积。该服务提供三种模型,每种对应提供不同的免费额度。开通DashScope即获赠限时免费使用额度,有效期180天,在免费使用额度内您可以免费试用通义千问模型,超出免费额度会产生一定的费用,详情请参见计费详情

1) 前往模型服务灵积

2) 在模型服务灵积页面,单击立即开通。

image.png

3) 在模型服务开通页面,选中服务协议,单击立即开通。

image.png

4) 开通成功后,单击前往控制台。

image.png

5) 在左侧导航栏,单击API-KEY管理。

image.png

6) 在安全提示对话框中,单击确定,我已经了解了风险。

image.png

7) API-KEY管理页面,单击创建新的API-KEY

image.png

8) 在创建API-KEY对话框中,您可看到你的API-KEY

说明:请您记录API-KEY并保存在安全的地方,在下一章节创建“LLM Riddles社区版”服务实例时会使用到,需要您填写至访问信息区域的DashScopekey中。

image.pngimage.pngimage.png

创建“LLM Riddles社区版”服务实例

1) 前往计算巢控制台

2) 在左侧导航栏,选择服务目录>服务市场。

image.png

3) 在服务市场页面,在搜索框中输入并搜索LLM Riddles社区版,在LLM Riddles社区版服务卡片下,单击免费试用。

image.png

4) 在计算巢服务为第三方服务对话框中,选中我已阅读并同意《计算巢服务协议》,单击确定。

说明:如果您是老用户,不会弹出如下对话框,可跳过此步骤。如果您是第一次使用计算巢服务,会弹出如下对话框。

image.png

5) 在创建服务实例页面,根据界面提示,设置服务实例名称、选择部署地域、选择实例规格、设置实例密码、DashScopeKey和软件登录密码,选择交换机可用区,然后单击下一步:确认订单。

说明:DashScopeKey为上一小节获取的API-KEY

image.pngimage.pngimage.png

6) 在确认订单页面,确认订单费用后,选中我已阅读并同意《计算巢服务协议》,然后单击开始免费试用。

image.png

7) 返回如下页面,表示已提交成功。

image.png

带你读《弹性计算技术指导及场景应用》——1. 所以!云服务器也可以玩转大模型?(2):

https://developer.aliyun.com/article/1423685

相关实践学习
快速体验PolarDB开源数据库
本实验环境已内置PostgreSQL数据库以及PolarDB开源数据库:PolarDB PostgreSQL版和PolarDB分布式版,支持一键拉起使用,方便各位开发者学习使用。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
6天前
|
存储 人工智能 边缘计算
当 AI 进入「算力密集时代」:你的服务器能跑通大模型吗?
本文深入探讨AI服务器在技术落地中的核心瓶颈问题,结合实战经验解析从模型训练到端侧部署的算力优化策略。内容涵盖三大典型场景的算力需求差异、GPU服务器选型的五大反直觉真相、实战优化方法(如混合精度训练与硬件资源监控),以及边缘AI部署挑战和解决方案。同时提供算力弹性扩展策略、模型生命周期管理及合规性建议,帮助读者构建可持续发展的算力体系。文末附有获取更多资源的指引。
57 17
|
9天前
|
缓存 人工智能 架构师
释放数据潜力:利用 MCP 资源让大模型读懂你的服务器
MCP(Model Control Protocol)资源系统是将服务器数据暴露给客户端的核心机制,支持文本和二进制两种类型资源。资源通过唯一URI标识,客户端可通过资源列表或模板发现资源,并使用`resources/read`接口读取内容。MCP还支持资源实时更新通知及订阅机制,确保动态数据的及时性。实现时需遵循最佳实践,如清晰命名、设置MIME类型和缓存策略,同时注重安全性,包括访问控制、路径清理和速率限制等。提供的示例代码展示了如何用JavaScript和Python实现资源支持。
173 80
|
13天前
|
存储 弹性计算 数据处理
阿里云服务器2核8G、4核16G、8核32G配置热门实例价格、性能与场景全攻略
2核8G/4核16G/8核32G配置的阿里云服务器在阿里云活动中目前有经济型e、通用算力型u1、通用型c7、通用型g8i和通用型g8y五种实例可选,虽然配置相同,但是这些实例规格之间的价格差别是很大的。面对不同配置和类型的云服务器实例,有的新手用户往往因为不知道他们之间的区别,所以不知道如何选择。本文将针对常见的2核8G、4核16G、8核32G配置,深入剖析阿里云服务器中的经济型e、通用算力型u1、通用型g7及通用型g8y实例,以供大家参考和选择。
|
1月前
|
Java 网络安全 Apache
SshClient应用指南:使用org.apache.sshd库在服务器中执行命令。
总结起来,Apache SSHD库是一个强大的工具,甚至可以用于创建你自己的SSH Server。当你需要在服务器中执行命令时,这无疑是非常有用的。希望这个指南能对你有所帮助,并祝你在使用Apache SSHD库中有一个愉快的旅程!
101 29
|
24天前
|
存储 弹性计算 测试技术
10分钟私有部署QwQ-32B模型,像购买Ecs实例一样快捷
虽然阿里云提供了基于 IaaS 部署 QwQ-32B 模型的方式,但传统的基于IaaS的部署方式需要用户自行配置环境、安装依赖、优化硬件资源,并解决复杂的网络与存储问题,整个流程不仅耗时耗力,还容易因操作失误导致各种不可预见的问题。 因此,阿里云计算巢提供了基于ECS镜像与VLLM的大模型一键部署方案,通过ECS镜像打包标准环境,通过Ros模版实现云资源与大模型的一键部署,用户无需关心模型部署运行的标准环境与底层云资源编排,10分钟即可部署使用QwQ-32B模型,15分钟即可部署使用Deepseek-R1-70B模型。
|
26天前
|
存储 人工智能 分布式计算
阿里云服务器实例规格选择参考:如何根据业务场景选择适合自己的实例规格
在我们购买阿里云服务器的时候,阿里云提供了众多的云服务器实例规格,满足了不同行业、不同业务场景的多样化需求。然而,面对众多的实例选择,如何根据自身的业务特性,挑选出最合适的云服务器实例规格,成为了众多用户,尤其是新手用户比较关心的问题。本文旨在通过深入剖析阿里云服务器的各类实例规格,结合具体的业务场景,为您提供一份详尽的实例规格选择指南,以供参考和选择。
|
3天前
|
存储 缓存 NoSQL
阿里云服务器实例规格选型:八大业务场景精准选型参考
阿里云提供了丰富多样的云服务器实例规格,以满足不同用户的多样化需求。然而,面对琳琅满目的实例选项,许多初次接触云服务器的用户往往感到无所适从。本文旨在帮助用户根据自身的业务场景和细分需求,精准选择最适合的阿里云服务器实例规格,确保资源的有效利用和成本的合理控制。
|
1月前
|
弹性计算 Linux 云计算
阿里云操作系统控制台——ECS操作及云计算应用实践
本文详细介绍了云服务器ECS的使用流程,包括开通服务、系统配置、权限管理、组件安装及内存全景诊断等关键步骤。通过开通阿里云操作系统服务、授予RAM用户权限和安装必要组件,可实现对服务器的有效管理与维护。在内存诊断部分,展示了如何发起诊断并解析结果,帮助精准定位内存问题。此外,文章还讲解了利用ECS训练模型的操作方法,从上传文件到终端命令执行,直至完成模型训练。最后总结指出,掌握这些技能不仅提升了对云服务器架构的理解,还为实际业务提供了高效解决方案,展现了ECS在数据处理与分析中的重要价值。
142 8
阿里云操作系统控制台——ECS操作及云计算应用实践
|
1月前
|
存储 弹性计算 安全
阿里云服务器ECS通用型规格族解析:实例规格、性能基准与场景化应用指南
作为ECS产品矩阵中的核心序列,通用型规格族以均衡的计算、内存、网络和存储性能著称,覆盖从基础应用到高性能计算的广泛场景。通用型规格族属于独享型云服务器,实例采用固定CPU调度模式,实例的每个CPU绑定到一个物理CPU超线程,实例间无CPU资源争抢,实例计算性能稳定且有严格的SLA保证,在性能上会更加稳定,高负载情况下也不会出现资源争夺现象。本文将深度解析阿里云ECS通用型规格族的技术架构、实例规格特性、最新价格政策及典型应用场景,为云计算选型提供参考。
|
2月前
|
人工智能 负载均衡 数据可视化
阿里云出手了,DeepSeek服务器拒绝繁忙,免费部署DeepSeek模型671B满血版
阿里云推出免费部署DeepSeek模型671B满血版服务,通过百炼大模型平台,用户无需编码,最快5分钟、最低0元即可完成部署。平台提供100万免费Token,支持DeepSeek-R1和DeepSeek-V3等多款模型调用,有效解决服务器繁忙问题。新手零基础也能轻松上手,享受高效稳定的API调用和自动弹性扩展功能。教程涵盖开通服务、获取API-KEY及配置Chatbox客户端等步骤,详细指引助您快速实现DeepSeek自由。
284 18

热门文章

最新文章

下一篇
oss创建bucket