Serverless 应用引擎产品使用合集之如何加载新模型到云端上

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: 阿里云Serverless 应用引擎(SAE)提供了完整的微服务应用生命周期管理能力,包括应用部署、服务治理、开发运维、资源管理等功能,并通过扩展功能支持多环境管理、API Gateway、事件驱动等高级应用场景,帮助企业快速构建、部署、运维和扩展微服务架构,实现Serverless化的应用部署与运维模式。以下是对SAE产品使用合集的概述,包括应用管理、服务治理、开发运维、资源管理等方面。

问题一:函数计算怎么样加载新的模型到云端?


函数计算怎么样加载新的模型到云端?


参考回答:

步骤二:安装模型https://help.aliyun.com/zh/fc/use-cases/stable-diffusion-with-switchable-models?spm=a2c4g.11186623.0.i160#82634d1056pqt

步骤二:安装模型

在应用详情页面,单击初始化模型管理。

在初始化模型管理对话框,选中我已阅读,并了解上述创建资源的目的以及部分资源可能产生的费用。我已知晓对应的计费规则,并决定继续部署该应用,然后单击确认。

存储模型需要使用文件存储NAS,会产生额外的存储费用。

选择挂载NAS存储方式,然后单击确认。

自动配置:如果您从未创建过NAS或者首次部署,可选择自动配置,授权函数计算自动为您创建NAS文件系统。

手动配置:如果您已创建过NAS,可以选择手动配置,配置对应的专有网络、交换机、安全组,选择文件系统后,使用默认挂载点的NAS目录和FC目录。

模型管理初始化完成大概需要0.5分钟~2分钟左右。

在应用详情页面,单击模型管理域名对应的链接,进入模型管理工具页面。

使用模型库下载模型。

说明

模型库功能由阿里云OSS提供,模型/数据集/文件均来源于第三方,不保证合规性,请您在使用前慎重考虑。这些模型均遵循creativeml-openrail-m或cc-by-nc-sa-4.0许可,请您也遵守该许可的约定。您还应严格遵守法律法规、第三方要求等,特别是不得利用本服务从事违法违规行为,例如上传、输入、生成、下载、使用违法或不良信息等。如您发现任何模型/数据集/文件等有问题,请加入钉钉用户群(钉钉群号:11721331),联系函数计算工程师即时沟通处理。。

在左侧菜单栏,单击模型库。

选择合适的模型,单击卡片对应的下载模型,在文件下载确认对话框中,单击下载选中的模型。

您可以在模型库或者传输列表查看模型下载进度。模型将会被下载至您的文件管理NAS中,这会产生一定的文件存储费用,具体计费信息请参见计费概述。

模型下载完成后,您可以单击左侧文件管理,在/mnt/auto/sd/models/Stable-diffusion目录下查看已下载的模型文件。

(可选)您也可以通过以下方式上传自定义的模型文件。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/576747



问题二:函数计算这个问题怎么解决?选择容器镜像,依然无法使用GPU。3.0


函数计算这个问题怎么解决?选择容器镜像,依然无法使用GPU。3.0


参考回答:

右上角切换成2.0才行。

基于函数计算一键部署Stable Diffusion进行AI绘画创作https://help.aliyun.com/zh/fc/use-cases/one-click-deployment-of-stable-diffusion-based-on-function-calculation-for?spm=a2c4g.11186623.0.i32

本文介绍如何通过函数计算搭建Stable Diffusion的WebUI框架实现文本生成图片。


关于本问题的更多回答可点击原文查看:

eloper.aliyun.com/ask/576746



问题三:函数计算显存和处理性能有关系?


用gpu处理,实际只用到2g的显存, 我用4g的gpu会比8g的gpu慢许多。函数计算显存和处理性能有关系?


参考回答:

算力是取值为vGPU显存(GB)/16。例如,配置vGPU显存为5 GB,则vGPU最高可得5/16张卡算力

GPU实例包含以下实例规格,您可以根据业务需求选择不同配置的实例。https://help.aliyun.com/zh/fc/instance-types-and-instance-modes?spm=a2c6h.13066369.question.9.6c311efaDrKOrG#section-mfv-5fb-ehw


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/576745



问题四:函数计算有调用个,但是看不到任何日志 ,可能是什么原因?


函数计算有调用个,但是看不到任何日志 ,可能是什么原因?


参考回答:

如何实时获取函数的执行日志?https://help.aliyun.com/zh/fc/support/how-to-obtain-the-execution-logs-of-a-function-in-real-time?spm=a2c4g.11186623.0.i181

函数计算控制台使用Logtail方式接入日志服务,函数执行结果和日志输出等信息支持实时查看。如果使用SDK调用函数,您需要在代码中增加相关设置才能实时获取执行日志。本文介绍使用各语言SDK调用函数时,如何设置实时获取执行日志。

您可以在阿里云OpenAPI门户网站,设置请求HeaderX-Fc-Log-Type的值为Tail,获取各语言的SDK示例,然后再发起调用。

此时,返回结果中包含Headerx-fc-log-result。此Header的值为经过Base64编码后的函数执行日志,需经过Base64解码后才能查看真实的日志信息。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/576744



问题五:怎么讲图片穿给函数计算呢?


怎么讲图片穿给函数计算呢?


参考回答:

在阿里云函数计算(FC)中,将图片传递给函数有多种方法。以下是一些常见的方式:

  1. 通过HTTP触发器:如果你的函数有一个与API网关集成的HTTP触发器,你可以直接通过POST请求将图片作为请求体的一部分发送到函数。这通常涉及到编码图片为Base64字符串或者使用多部分表单数据。
  2. 通过OSS触发器:如果你的函数有一个与对象存储服务(OSS)集成的触发器,你可以在OSS上上传图片,然后当图片被上传时,函数会自动被触发。在这种情况下,你需要确保你的函数可以访问OSS中的图片。
  3. 通过事件消息:如果你的函数是通过事件驱动的方式调用的,你可以将图片作为事件消息的一部分发送。例如,在一个消息队列(如RocketMQ)中,你可以将图片编码为二进制数据并包含在消息中。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/576743

相关实践学习
1分钟部署经典小游戏
本场景介绍如何使用Serverless应用引擎SAE 1分钟快速部署经典小游戏。
SAE的功能与使用入门
欢迎来到《SAE的功能与使用入门》,本课程是“云原生Serverless Clouder认证“系列中的第三阶段。课程将向您介绍阿里云Serverless应用引擎(SAE)服务相关的概念、特性与使用方式。通过课程将带您逐步深入探索Serverless世界,借助SAE服务,即使没有丰富的云计算和IT经验,也能够让开发人员在实际业务场景中便捷的掌握如何构建和部署应用程序,快速拥抱Serverless架构,将精力聚焦在应用代码和业务逻辑的实现上。 学习完本课程后,您将能够: 掌握Serverless应用引擎(SAE)的基本概念与核心优势 了解Serverless应用引擎(SAE)的核心功能 掌握使用Serverless应用引擎(SAE)的开发和部署流程 了解Serverless应用引擎(SAE)的适用场景和最佳实践  
目录
打赏
0
0
0
0
643
分享
相关文章
云端问道13期方案教学-告别资源瓶颈,函数计算驱动多媒体文件处理
《云端问道13期方案教学》由阿里云技术团队周博宇主讲,聚焦如何使用函数计算突破资源瓶颈,高效处理多媒体文件。方案涵盖六大要点:寻找云需求解决方案、选择函数计算的原因、对比不同文件处理方式、实现多媒体文件处理、应用场景广泛性及优惠购买推荐。通过将文件处理从主应用拆分,利用函数计算的按需扩展和自动弹性特性,确保核心业务稳定,并大幅降低成本。适用于图片、视频处理等多种场景。
云端问道13期方案教学-告别资源瓶颈,函数计算驱动多媒体文件处理
云大使 X 函数计算 FC 专属活动上线!享返佣,一键打造 AI 应用
如今,AI 技术已经成为推动业务创新和增长的重要力量。但对于许多企业和开发者来说,如何高效、便捷地部署和管理 AI 应用仍然是一个挑战。阿里云函数计算 FC 以其免运维的特点,大大降低了 AI 应用部署的复杂性。用户无需担心底层资源的管理和运维问题,可以专注于应用的创新和开发,并且用户可以通过一键部署功能,迅速将 AI 大模型部署到云端,实现快速上线和迭代。函数计算目前推出了多种规格的云资源优惠套餐,用户可以根据实际需求灵活选择。
DeepSeek 模型快速体验,魔搭+函数计算一键部署模型上云
DeepSeek模型近期备受关注,其开源版本DeepSeek-V3和DeepSeek-R1在多个基准测试中表现出色,性能比肩OpenAI顶尖模型。为降低本地部署门槛,Modelscope社区推出DeepSeek-R1-Distill-Qwen模型的一键部署服务,支持函数计算FC平台的闲置GPU实例,大幅降低成本。用户可选择不同参数量的小模型进行快速部署和推理,体验DeepSeek的强大性能。
DeepSeek 模型快速体验,魔搭+函数计算一键部署模型上云
阿里云 EMR Serverless Spark 在微财机器学习场景下的应用
面对机器学习场景下的训练瓶颈,微财选择基于阿里云 EMR Serverless Spark 建立数据平台。通过 EMR Serverless Spark,微财突破了单机训练使用的数据规模瓶颈,大幅提升了训练效率,解决了存算分离架构下 Shuffle 稳定性和性能困扰,为智能风控等业务提供了强有力的技术支撑。
141 15
DeepSeek 快速体验,魔搭+函数计算一键部署模型上云
对于期待第一时间在本地进行使用的用户来说,尽管 DeepSeek 提供了从 1.5B 到 70B 参数的多尺寸蒸馏模型,但本地部署仍需要一定的技术门槛。对于资源有限的用户进一步使用仍有难点。为了让更多开发者第一时间体验 DeepSeek 模型的魅力,Modelscope 社区 DeepSeek-R1-Distill-Qwen 模型现已支持一键部署(SwingDeploy)上函数计算 FC 服务,欢迎开发者立即体验。
278 12
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
海量日志接入 Serverless 应用降本70%以上
本文将探讨在日志场景下,使用阿里云Elasticsearch Serverless相较于基于ECS自建Elasticsearch集群的成本与性能优势,展示如何通过Serverless架构实现高达 70%以上的成本节约。
AI 场景下,函数计算 GPU 实例模型存储最佳实践
当前,函数计算 FC 已被广泛应用在各种 AI 场景下,函数计算支持通过使用容器镜像部署 AI 推理应用,并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用,并快速解决不同场景下的模型存储选型问题,本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析,以期为您的模型存储决策提供帮助。
云端问道13期实操教学-告别资源瓶颈,函数计算驱动多媒体文件处理
《云端问道13期实操教学》介绍了使用函数计算实现多媒体文件处理的解决方案,分为五部分:方案概览、部署准备、一键部署、完成及清理和主流应用场景。通过创建VPC、ECS、RDS等资源,演示了如何利用函数计算处理PPT加水印并转PDF,解决了资源瓶颈问题。最后讲解了函数计算在部署外部应用、文件处理和音视频处理中的优势。
云端问道8期方案教学-基于Serverless计算快速构建AI应用开发
本文介绍了基于Serverless计算快速构建AI应用开发的技术和实践。内容涵盖四个方面:1) Serverless技术价值,包括其发展趋势和优势;2) Serverless函数计算与AI的结合,探讨AIGC应用场景及企业面临的挑战;3) Serverless函数计算AIGC应用方案,提供一键部署、模型托管等功能;4) 业务初期如何低门槛使用,介绍新用户免费额度和优惠活动。通过这些内容,帮助企业和开发者更高效地利用Serverless架构进行AI应用开发。

相关产品

  • 函数计算
  • Serverless 应用引擎
  • AI助理

    你好,我是AI助理

    可以解答问题、推荐解决方案等