Serverless 应用引擎常见问题之AI应用限制人为限制内存如何解决

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
函数计算FC,每月15万CU 3个月
简介: Serverless 应用引擎(Serverless Application Engine, SAE)是一种完全托管的应用平台,它允许开发者无需管理服务器即可构建和部署应用。以下是Serverless 应用引擎使用过程中的一些常见问题及其答案的汇总:

问题一:PolarDB的Serverless版支持x-engine引擎吗?


PolarDB的Serverless版支持x-engine引擎吗?


参考回答:

目前功能开发完了,下个版本可以开。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602205


问题二:polarDB serverless弹性上线最大是17核,这个增量嘛?


polarDB serverless弹性上线最大是17核,这个增量嘛?比如现在是64核,可以弹到81核?



参考回答:

最大16核,是增量。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602168


问题三:阿里云ASK 的ack serverless 支持Pod显存设置吗?


阿里云ASK 的ack serverless 支持Pod显存设置吗?还是目前仅支持单张GPU,文档里面好像没有相关描述


参考回答:

阿里云的ACK Serverless(ASK)支持设置Pod显存,并且支持多张GPU

首先,关于Pod显存设置的问题,虽然文档中可能没有明确说明Pod级别的显存设置,但是考虑到ACK Serverless基于ECI(弹性容器实例),它确实支持了GPU容器实例。这意味着用户可以利用ECI服务在ACK Serverless集群中部署需要GPU资源的容器应用,并按需使用GPU计算资源。

进一步来说,ECI GPU支持的驱动版本为NVIDIA 460.73.01,且支持CUDA Toolkit版本为11.2。这为用户提供了在ACK Serverless集群中使用GPU的能力,尤其是在进行AI计算任务时可以显著提升计算效率。而且,ECI支持通过指定ECS GPU规格来创建ECI GPU实例,这表明用户可以根据需要选择不同规格的GPU资源,从而间接实现Pod显存的设置。

总结而言,尽管文档中可能未详细描述Pod级别的显存配置,但通过ECI GPU实例的支持,用户仍然可以在ACK Serverless集群中根据需求部署和管理具有GPU资源的容器,实现高效灵活的计算任务执行。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602111


问题四:函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


参考回答:

做个任务分配,然后预先创建不同规格的函数。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601932


问题五:函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


参考回答:

也是支持训练的,跟webui的原生api接口相同,不过还是推荐使用原生的webui-api进行训练。 https://developer.aliyun.com/article/1429825#slide-6 , 其他文档中不存在的接口同webui-api接口(/docs)。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601863

相关实践学习
1分钟部署经典小游戏
本场景介绍如何使用Serverless应用引擎SAE 1分钟快速部署经典小游戏。
SAE的功能与使用入门
欢迎来到《SAE的功能与使用入门》,本课程是“云原生Serverless Clouder认证“系列中的第三阶段。课程将向您介绍阿里云Serverless应用引擎(SAE)服务相关的概念、特性与使用方式。通过课程将带您逐步深入探索Serverless世界,借助SAE服务,即使没有丰富的云计算和IT经验,也能够让开发人员在实际业务场景中便捷的掌握如何构建和部署应用程序,快速拥抱Serverless架构,将精力聚焦在应用代码和业务逻辑的实现上。 学习完本课程后,您将能够: 掌握Serverless应用引擎(SAE)的基本概念与核心优势 了解Serverless应用引擎(SAE)的核心功能 掌握使用Serverless应用引擎(SAE)的开发和部署流程 了解Serverless应用引擎(SAE)的适用场景和最佳实践  
目录
打赏
0
3
3
0
842
分享
相关文章
Serverless MCP 运行时业界首发,函数计算让 AI 应用最后一公里提速
作为云上托管 MCP 服务的最佳运行时,函数计算 FC 为阿里云百炼 MCP 提供弹性调用能力,用户只需提交 npx 命令即可“零改造”将开源 MCP Server 部署到云上,函数计算 FC 会准备好计算资源,并以弹性、可靠的方式运行 MCP 服务,按实际调用时长和次数计费,欢迎你在阿里云百炼和函数计算 FC 上体验 MCP 服务。
176 29
当 MCP 遇上 Serverless,AI 时代的最佳搭档
随着 AI 技术的飞速发展,MCP(模型上下文协议) 逐渐崭露头角。这项由 Anthropic 公司(Claude 的创造者)于 2024 年 11 月推出的开放协议,正在重新定义 AI 与数字世界的交互方式。这项开放协议不仅让 AI 突破传统对话边界,更赋予其执行现实任务的能力,堪称人工智能向"行动智能体"进化的里程碑。然而从火热概念到落地业务,MCP 还需要找到云端“好搭档”。
355 77
云大使 X 函数计算 FC 专属活动上线!享返佣,一键打造 AI 应用
如今,AI 技术已经成为推动业务创新和增长的重要力量。但对于许多企业和开发者来说,如何高效、便捷地部署和管理 AI 应用仍然是一个挑战。阿里云函数计算 FC 以其免运维的特点,大大降低了 AI 应用部署的复杂性。用户无需担心底层资源的管理和运维问题,可以专注于应用的创新和开发,并且用户可以通过一键部署功能,迅速将 AI 大模型部署到云端,实现快速上线和迭代。函数计算目前推出了多种规格的云资源优惠套餐,用户可以根据实际需求灵活选择。
阿里云函数计算助力AI大模型快速部署
随着人工智能技术的快速发展,AI大模型已经成为企业数字化转型的重要工具。然而,对于许多业务人员、开发者以及企业来说,探索和利用AI大模型仍然面临诸多挑战。业务人员可能缺乏编程技能,难以快速上手AI模型;开发者可能受限于GPU资源,无法高效构建和部署AI应用;企业则希望简化技术门槛,以更低的成本和更高的效率利用AI大模型。
421 12
Serverless MCP 运行时业界首发,函数计算让 AI 应用最后一公里提速
Serverless MCP 运行时业界首发,函数计算支持阿里云百炼 MCP 服务!阿里云百炼发布业界首个全生命周期 MCP 服务,无需用户管理资源、开发部署、工程运维等工作,5 分钟即可快速搭建一个连接 MCP 服务的 Agent(智能体)。作为云上托管 MCP 服务的最佳运行时,函数计算 FC 为阿里云百炼 MCP 提供弹性调用能力。
167 0
 Serverless MCP 运行时业界首发,函数计算让 AI 应用最后一公里提速
基于函数计算一键部署 AI 陪练,快速打造你的专属口语对练伙伴
AI 口语学习涵盖发音训练、对话交流、即时反馈、个性化场景模拟和流利度提升等。本方案以英语口语学习的场景为例,利用函数计算 FC 部署 Web 应用,结合智能媒体服务(AI 实时互动)的 AI 智能体和百炼工作流应用,实现英语口语陪练。
CAP:Serverless + AI 让应用开发更简单
CAP:Serverless + AI 让应用开发更简单
Serverless + AI 让应用开发更简单,加速应用智能化
Serverless + AI 让应用开发更简单,加速应用智能化
Serverless Devs 官网全新升级,Serverless+AI 重磅来袭
Serverless Devs 官网全新升级,Serverless+AI 重磅来袭

相关产品

  • 函数计算
  • Serverless 应用引擎
  • AI助理

    你好,我是AI助理

    可以解答问题、推荐解决方案等