所以!云服务器也可以玩转大模型啦?

简介: 原型《完蛋!我被LLM包围了! 》 是魔搭社区联合灵积平台和通义千问2.0模型推出的一款玩坏LLM的智力挑战游戏 。用户可以通过计算巢服务创建出的游戏进行免费体验。即刻体验由云服务器创建的大模型游戏!

原型《完蛋!我被LLM包围了! 》 是魔搭社区联合灵积平台和通义千问2.0模型推出的一款玩坏LLM的智力挑战游戏 。用户可以通过计算巢服务创建出的游戏进行免费体验。即刻体验由云服务器创建的大模型游戏!

实验简介

本场景会自动创建一台ECS实例,通过计算巢的服务用户可以即刻体验到“为难”大模型的游戏,随时畅玩。

背景知识

计算巢是一个面向ISV、SI和MSP(统称为服务商)的云集成PaaS平台,方便服务商更好地将产品、服务和阿里云集成,借助云原生的能力提升软件服务在交付、部署及后续管理(如:资源扩缩容、软件升级、许可证管理、代运维等)等环节的效率。为最终用户提供更高效、便捷、安全的软件服务和使用体验。

云服务器 ECS(Elastic Compute Service)是一种安全可靠、弹性可伸缩的云计算服务,助您降低IT成本,提升运维效率,使您更专注于核心业务创新。

一、实验资源方式简介及开始实验

云起实验室实验资源方式介绍

云起实验室支持个人账户资源一种实验资源方式。

  • 个人账户资源
  • 使用您个人的云资源进行操作,资源归属于个人。
  • 所有实验操作将保留至您的账号,请谨慎操作。
  • 平台仅提供手册参考,不会对资源做任何操作。

准备开始实验

在实验开始前,请您选择个人账号资源,单击确认开启实验。  

1.png


二、DashScope免费额度开通


在开始实验前,用户需要开通模型服务灵积。该服务提供三种模型,每种对应提供不同的免费额度。开通DashScope即获赠限时免费使用额度,有效期180天,在免费使用额度内您可以免费试用通义千问模型,超出免费额度会产生一定的费用,详情请参见计费详情

  1. 前往模型服务灵积
  2. 模型服务灵积页面,单击立即开通

2.png

  1. 在模型服务开通页面,选中服务协议,单击立即开通

3.png

  1. 开通成功后,单击前往控制台

4.png

  1. 在左侧导航栏,单击API-KEY管理

5.png

  1. 安全提示对话框中,单击确定,我已经了解了风险

7.png

  1. API-KEY管理页面,单击创建新的API-KEY

8.png

  1. 创建API-KEY对话框中,您可看到你的API-KEY。

说明:请您记录API-KEY并保存在安全的地方,在下一章节创建“LLM Riddles社区版”服务实例时会使用到,需要您填写至访问信息区域的DashScopekey中。

9.png

10.png


三、创建“LLM Riddles社区版”服务实例

  1. 前往计算巢控制台
  2. 在左侧导航栏,选择服务目录>服务市场

1.png

  1. 服务市场页面,在搜索框中输入并搜索LLM Riddles社区版,在LLM Riddles社区版服务卡片下,单击免费试用

2.png

  1. 计算巢服务为第三方服务对话框中,选中我已阅读并同意《计算巢服务协议》,单击确定

说明:如果您是老用户,不会弹出如下对话框,可跳过此步骤。如果您是第一次使用计算巢服务,会弹出如下对话框。

3.png

  1. 创建服务实例页面,根据界面提示,设置服务实例名称、选择部署地域、选择实例规格、设置实例密码DashScopeKey软件登录密码,选择交换机可用区,然后单击下一步:确认订单

说明:DashScopeKey为上一小节获取的API-KEY。

4.png

5.png

6.png

  1. 确认订单页面,确认订单费用后,选中我已阅读并同意《计算巢服务协议》,然后单击开始免费试用

7.png

返回如下页面,表示已提交成功。

8.png

四、查看服务实例和使用

  1. 提交成功页面,单击去列表查看

9.png

  1. 服务实例管理页面的试用服务页签,您可以看到刚刚创建的服务实例以及服务部署进度。

说明:预计部署时间2~3分钟。

1.png

  1. 等待服务实例的状态变为已部署后,单击右侧操作列下的详情

2.png

  1. 服务实例详情页面,您可以获取到Endpoint以访问服务,单击Endpoint后面的链接。

3.png

  1. 登录对话框中,输入用户名密码,单击登录

说明:用户名和密码为您创建服务实例时设置的软件登录名和软件登录密码。

5.png

五、开始使用!

现在即可访问首页,开始畅玩吧!

说明:每一关你都需要在输入框中设置一个符合题目的问题,单击发送,挑战结果显示成功,您即可进行下一关。

6.png

7.png

六、删除服务实例

说明:

  • 在实验完成后,如果您需要继续使用LLM Riddles社区版服务实例,请随时关注免费试用到期时间,试用到期后实例会自动销毁。
  • 在实验完成后,如果您不需要使用LLM Riddles社区版服务实例,请根据如下操作,手动删除服务实例。
  1. 服务实例管理页面的试用服务页签,找到您创建的LLM Riddles社区版服务实例,单击右侧操作列下的删除

8.png

  1. 您确定要删除当前服务实例吗对话框中,选中我确认删除服务实例及包含的云资源,单击确定删除

9.png

七、免费试用云服务器ECS

完成实验后,如果您还想体验更多有关云服务器ECS体验,您可以领取以下两款云服务器ECS免费试用,详情请参见云服务器ECS免费试用

10.png

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
9月前
|
存储 人工智能 边缘计算
当 AI 进入「算力密集时代」:你的服务器能跑通大模型吗?
本文深入探讨AI服务器在技术落地中的核心瓶颈问题,结合实战经验解析从模型训练到端侧部署的算力优化策略。内容涵盖三大典型场景的算力需求差异、GPU服务器选型的五大反直觉真相、实战优化方法(如混合精度训练与硬件资源监控),以及边缘AI部署挑战和解决方案。同时提供算力弹性扩展策略、模型生命周期管理及合规性建议,帮助读者构建可持续发展的算力体系。文末附有获取更多资源的指引。
815 17
|
9月前
|
缓存 人工智能 架构师
释放数据潜力:利用 MCP 资源让大模型读懂你的服务器
MCP(Model Control Protocol)资源系统是将服务器数据暴露给客户端的核心机制,支持文本和二进制两种类型资源。资源通过唯一URI标识,客户端可通过资源列表或模板发现资源,并使用`resources/read`接口读取内容。MCP还支持资源实时更新通知及订阅机制,确保动态数据的及时性。实现时需遵循最佳实践,如清晰命名、设置MIME类型和缓存策略,同时注重安全性,包括访问控制、路径清理和速率限制等。提供的示例代码展示了如何用JavaScript和Python实现资源支持。
1014 80
|
机器学习/深度学习 人工智能 运维
企业内训|LLM大模型在服务器和IT网络运维中的应用-某日企IT运维部门
本课程是为某在华日资企业集团的IT运维部门专门定制开发的企业培训课程,本课程旨在深入探讨大型语言模型(LLM)在服务器及IT网络运维中的应用,结合当前技术趋势与行业需求,帮助学员掌握LLM如何为运维工作赋能。通过系统的理论讲解与实践操作,学员将了解LLM的基本知识、模型架构及其在实际运维场景中的应用,如日志分析、故障诊断、网络安全与性能优化等。
471 2
|
人工智能 运维 安全
世界级大模型群,进化阿里云服务器操作系统新范式
世界级大模型群,进化阿里云服务器操作系统新范式
441 13
|
9月前
|
存储 弹性计算 测试技术
10分钟私有部署QwQ-32B模型,像购买Ecs实例一样快捷
虽然阿里云提供了基于 IaaS 部署 QwQ-32B 模型的方式,但传统的基于IaaS的部署方式需要用户自行配置环境、安装依赖、优化硬件资源,并解决复杂的网络与存储问题,整个流程不仅耗时耗力,还容易因操作失误导致各种不可预见的问题。 因此,阿里云计算巢提供了基于ECS镜像与VLLM的大模型一键部署方案,通过ECS镜像打包标准环境,通过Ros模版实现云资源与大模型的一键部署,用户无需关心模型部署运行的标准环境与底层云资源编排,10分钟即可部署使用QwQ-32B模型,15分钟即可部署使用Deepseek-R1-70B模型。
|
11月前
|
人工智能 负载均衡 数据可视化
阿里云出手了,DeepSeek服务器拒绝繁忙,免费部署DeepSeek模型671B满血版
阿里云推出免费部署DeepSeek模型671B满血版服务,通过百炼大模型平台,用户无需编码,最快5分钟、最低0元即可完成部署。平台提供100万免费Token,支持DeepSeek-R1和DeepSeek-V3等多款模型调用,有效解决服务器繁忙问题。新手零基础也能轻松上手,享受高效稳定的API调用和自动弹性扩展功能。教程涵盖开通服务、获取API-KEY及配置Chatbox客户端等步骤,详细指引助您快速实现DeepSeek自由。
675 18
|
11月前
|
人工智能 Oracle 搜索推荐
大模型重塑数据中心,全球服务器产业迎新增长浪潮
大模型重塑数据中心,全球服务器产业迎新增长浪潮
|
11月前
|
机器学习/深度学习 人工智能 开发者
DeepSeek服务器繁忙?拒绝稍后再试!基于阿里云PAI实现0代码一键部署DeepSeek-V3和DeepSeek-R1大模型
阿里云PAI平台支持零代码一键部署DeepSeek-V3和DeepSeek-R1大模型,用户可轻松实现从训练到部署再到推理的全流程。通过PAI Model Gallery,开发者只需简单几步即可完成模型部署,享受高效便捷的AI开发体验。具体步骤包括开通PAI服务、进入控制台选择模型、一键部署并获取调用信息。整个过程无需编写代码,极大简化了模型应用的门槛。
537 7
|
存储 弹性计算 算法
前端大模型应用笔记(四):如何在资源受限例如1核和1G内存的端侧或ECS上运行一个合适的向量存储库及如何优化
本文探讨了在资源受限的嵌入式设备(如1核处理器和1GB内存)上实现高效向量存储和检索的方法,旨在支持端侧大模型应用。文章分析了Annoy、HNSWLib、NMSLib、FLANN、VP-Trees和Lshbox等向量存储库的特点与适用场景,推荐Annoy作为多数情况下的首选方案,并提出了数据预处理、索引优化、查询优化等策略以提升性能。通过这些方法,即使在资源受限的环境中也能实现高效的向量检索。
764 1
|
数据可视化 Linux 网络安全
如何使用服务器训练模型
本文介绍了如何使用服务器训练模型,包括获取服务器、访问服务器、上传文件、配置环境、训练模型和下载模型等步骤。适合没有GPU或不熟悉Linux服务器的用户。通过MobaXterm工具连接服务器,使用Conda管理环境,确保训练过程顺利进行。
2057 0
如何使用服务器训练模型

热门文章

最新文章

相关产品

  • 云服务器 ECS