所以!云服务器也可以玩转大模型啦?

简介: 原型《完蛋!我被LLM包围了! 》 是魔搭社区联合灵积平台和通义千问2.0模型推出的一款玩坏LLM的智力挑战游戏 。用户可以通过计算巢服务创建出的游戏进行免费体验。即刻体验由云服务器创建的大模型游戏!

原型《完蛋!我被LLM包围了! 》 是魔搭社区联合灵积平台和通义千问2.0模型推出的一款玩坏LLM的智力挑战游戏 。用户可以通过计算巢服务创建出的游戏进行免费体验。即刻体验由云服务器创建的大模型游戏!

实验简介

本场景会自动创建一台ECS实例,通过计算巢的服务用户可以即刻体验到“为难”大模型的游戏,随时畅玩。

背景知识

计算巢是一个面向ISV、SI和MSP(统称为服务商)的云集成PaaS平台,方便服务商更好地将产品、服务和阿里云集成,借助云原生的能力提升软件服务在交付、部署及后续管理(如:资源扩缩容、软件升级、许可证管理、代运维等)等环节的效率。为最终用户提供更高效、便捷、安全的软件服务和使用体验。

云服务器 ECS(Elastic Compute Service)是一种安全可靠、弹性可伸缩的云计算服务,助您降低IT成本,提升运维效率,使您更专注于核心业务创新。

一、实验资源方式简介及开始实验

云起实验室实验资源方式介绍

云起实验室支持个人账户资源一种实验资源方式。

  • 个人账户资源
  • 使用您个人的云资源进行操作,资源归属于个人。
  • 所有实验操作将保留至您的账号,请谨慎操作。
  • 平台仅提供手册参考,不会对资源做任何操作。

准备开始实验

在实验开始前,请您选择个人账号资源,单击确认开启实验。  

1.png


二、DashScope免费额度开通


在开始实验前,用户需要开通模型服务灵积。该服务提供三种模型,每种对应提供不同的免费额度。开通DashScope即获赠限时免费使用额度,有效期180天,在免费使用额度内您可以免费试用通义千问模型,超出免费额度会产生一定的费用,详情请参见计费详情

  1. 前往模型服务灵积
  2. 模型服务灵积页面,单击立即开通

2.png

  1. 在模型服务开通页面,选中服务协议,单击立即开通

3.png

  1. 开通成功后,单击前往控制台

4.png

  1. 在左侧导航栏,单击API-KEY管理

5.png

  1. 安全提示对话框中,单击确定,我已经了解了风险

7.png

  1. API-KEY管理页面,单击创建新的API-KEY

8.png

  1. 创建API-KEY对话框中,您可看到你的API-KEY。

说明:请您记录API-KEY并保存在安全的地方,在下一章节创建“LLM Riddles社区版”服务实例时会使用到,需要您填写至访问信息区域的DashScopekey中。

9.png

10.png


三、创建“LLM Riddles社区版”服务实例

  1. 前往计算巢控制台
  2. 在左侧导航栏,选择服务目录>服务市场

1.png

  1. 服务市场页面,在搜索框中输入并搜索LLM Riddles社区版,在LLM Riddles社区版服务卡片下,单击免费试用

2.png

  1. 计算巢服务为第三方服务对话框中,选中我已阅读并同意《计算巢服务协议》,单击确定

说明:如果您是老用户,不会弹出如下对话框,可跳过此步骤。如果您是第一次使用计算巢服务,会弹出如下对话框。

3.png

  1. 创建服务实例页面,根据界面提示,设置服务实例名称、选择部署地域、选择实例规格、设置实例密码DashScopeKey软件登录密码,选择交换机可用区,然后单击下一步:确认订单

说明:DashScopeKey为上一小节获取的API-KEY。

4.png

5.png

6.png

  1. 确认订单页面,确认订单费用后,选中我已阅读并同意《计算巢服务协议》,然后单击开始免费试用

7.png

返回如下页面,表示已提交成功。

8.png

四、查看服务实例和使用

  1. 提交成功页面,单击去列表查看

9.png

  1. 服务实例管理页面的试用服务页签,您可以看到刚刚创建的服务实例以及服务部署进度。

说明:预计部署时间2~3分钟。

1.png

  1. 等待服务实例的状态变为已部署后,单击右侧操作列下的详情

2.png

  1. 服务实例详情页面,您可以获取到Endpoint以访问服务,单击Endpoint后面的链接。

3.png

  1. 登录对话框中,输入用户名密码,单击登录

说明:用户名和密码为您创建服务实例时设置的软件登录名和软件登录密码。

5.png

五、开始使用!

现在即可访问首页,开始畅玩吧!

说明:每一关你都需要在输入框中设置一个符合题目的问题,单击发送,挑战结果显示成功,您即可进行下一关。

6.png

7.png

六、删除服务实例

说明:

  • 在实验完成后,如果您需要继续使用LLM Riddles社区版服务实例,请随时关注免费试用到期时间,试用到期后实例会自动销毁。
  • 在实验完成后,如果您不需要使用LLM Riddles社区版服务实例,请根据如下操作,手动删除服务实例。
  1. 服务实例管理页面的试用服务页签,找到您创建的LLM Riddles社区版服务实例,单击右侧操作列下的删除

8.png

  1. 您确定要删除当前服务实例吗对话框中,选中我确认删除服务实例及包含的云资源,单击确定删除

9.png

七、免费试用云服务器ECS

完成实验后,如果您还想体验更多有关云服务器ECS体验,您可以领取以下两款云服务器ECS免费试用,详情请参见云服务器ECS免费试用

10.png

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
3月前
|
网络协议 C++ 数据格式
websocket协议介绍与基于reactor模型的websocket服务器实现
websocket协议介绍与基于reactor模型的websocket服务器实现
105 0
|
3月前
|
存储 弹性计算 安全
ECS的安全责任共担模型
云服务器ECS的云上安全性是阿里云和客户的共同责任。本文介绍云服务器ECS(Elastic Compute Service)与客户在安全性方面各自应该承担的责任。
|
11天前
|
开发工具 git iOS开发
服务器配置Huggingface并git clone模型和文件
该博客提供了在服务器上配置Huggingface、安装必要的工具(如git-lfs和huggingface_hub库)、登录Huggingface以及使用git clone命令克隆模型和文件的详细步骤。
29 1
|
2月前
|
机器学习/深度学习 人工智能 网络安全
人工智能平台PAI产品使用合集之在本地可以成功进入模型流,但在服务器上无法进入,是什么原因
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
2月前
|
异构计算 弹性计算 并行计算
|
3月前
|
测试技术 PyTorch 算法框架/工具
魔搭开源推理引擎 DashInfer,助力CPU服务器解锁大模型超强推理
ModelScope推出了预训练大语言模型(LLM)推理引擎DashInfer,采用C++ Runtime编写,提供C++和Python语言接口,具有生产级别的高性能表现,适用于多种CPU架构,包括x86和ARMv9。DashInfer支持连续批处理(Continuous Batching)和多NUMA推理(NUMA-Aware),能够充分利用服务器级CPU的算力,为推理14B及以下的LLM模型提供更多的硬件选择。该项工作已开源。
|
2月前
使用高性能服务器训练StableDiffusion——人物模型.safetensors
使用高性能服务器训练StableDiffusion——人物模型.safetensors
25 0
|
3月前
|
存储 机器学习/深度学习 人工智能
社区供稿 | Yuan2.0千亿大模型在通用服务器上的高效推理实现:以NF8260G7服务器为例
浪潮信息联合Intel在IPF大会上发布了可运行千亿参数大模型的AI通用服务器,首次实现了单机通用服务器,即可运行千亿参数大模型。并在发布现场演示了基于NF8260G7服务器进行yuan2.0-102B模型在代码编写、逻辑推理等高难度问题上的实时推理效果,引起了业界广泛的关注。本文将详细解读yuan2.0-102B模型在NF8260G7服务器上进行高效实时推理的原理和技术路径。
|
3月前
|
监控 安全 Linux
socket编程之常用api介绍与socket、select、poll、epoll高并发服务器模型代码实现(3)
高并发服务器模型-poll poll介绍   poll跟select类似, 监控多路IO, 但poll不能跨平台。其实poll就是把select三个文件描述符集合变成一个集合了。
56 0
|
3月前
|
运维 监控 Serverless
【专栏】无服务器架构,一种云计算模型,让开发者专注编写代码而不必管理服务器(Serverless)
【4月更文挑战第28天】无服务器架构,一种云计算模型,让开发者专注编写代码而不必管理服务器。它基于事件驱动,自动扩展资源并按需计费。优势包括缩短开发周期、优化资源利用、降低成本、提高可用性及简化维护。然而,冷启动延迟、调试困难、性能监控、安全性和学习曲线等挑战仍需解决。随着技术进步,无服务器架构将在科技发展中发挥更大作用。
84 2

相关产品

  • 云服务器 ECS