Serverless 应用引擎常见问题之AI应用限制人为限制内存如何解决

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: Serverless 应用引擎(Serverless Application Engine, SAE)是一种完全托管的应用平台,它允许开发者无需管理服务器即可构建和部署应用。以下是Serverless 应用引擎使用过程中的一些常见问题及其答案的汇总:

问题一:PolarDB的Serverless版支持x-engine引擎吗?


PolarDB的Serverless版支持x-engine引擎吗?


参考回答:

目前功能开发完了,下个版本可以开。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602205


问题二:polarDB serverless弹性上线最大是17核,这个增量嘛?


polarDB serverless弹性上线最大是17核,这个增量嘛?比如现在是64核,可以弹到81核?



参考回答:

最大16核,是增量。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602168


问题三:阿里云ASK 的ack serverless 支持Pod显存设置吗?


阿里云ASK 的ack serverless 支持Pod显存设置吗?还是目前仅支持单张GPU,文档里面好像没有相关描述


参考回答:

阿里云的ACK Serverless(ASK)支持设置Pod显存,并且支持多张GPU

首先,关于Pod显存设置的问题,虽然文档中可能没有明确说明Pod级别的显存设置,但是考虑到ACK Serverless基于ECI(弹性容器实例),它确实支持了GPU容器实例。这意味着用户可以利用ECI服务在ACK Serverless集群中部署需要GPU资源的容器应用,并按需使用GPU计算资源。

进一步来说,ECI GPU支持的驱动版本为NVIDIA 460.73.01,且支持CUDA Toolkit版本为11.2。这为用户提供了在ACK Serverless集群中使用GPU的能力,尤其是在进行AI计算任务时可以显著提升计算效率。而且,ECI支持通过指定ECS GPU规格来创建ECI GPU实例,这表明用户可以根据需要选择不同规格的GPU资源,从而间接实现Pod显存的设置。

总结而言,尽管文档中可能未详细描述Pod级别的显存配置,但通过ECI GPU实例的支持,用户仍然可以在ACK Serverless集群中根据需求部署和管理具有GPU资源的容器,实现高效灵活的计算任务执行。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602111


问题四:函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


参考回答:

做个任务分配,然后预先创建不同规格的函数。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601932


问题五:函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


参考回答:

也是支持训练的,跟webui的原生api接口相同,不过还是推荐使用原生的webui-api进行训练。 https://developer.aliyun.com/article/1429825#slide-6 , 其他文档中不存在的接口同webui-api接口(/docs)。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601863

相关实践学习
1分钟部署经典小游戏
本场景介绍如何使用Serverless应用引擎SAE 1分钟快速部署经典小游戏。
SAE的功能与使用入门
欢迎来到《SAE的功能与使用入门》,本课程是“云原生Serverless Clouder认证“系列中的第三阶段。课程将向您介绍阿里云Serverless应用引擎(SAE)服务相关的概念、特性与使用方式。通过课程将带您逐步深入探索Serverless世界,借助SAE服务,即使没有丰富的云计算和IT经验,也能够让开发人员在实际业务场景中便捷的掌握如何构建和部署应用程序,快速拥抱Serverless架构,将精力聚焦在应用代码和业务逻辑的实现上。 学习完本课程后,您将能够: 掌握Serverless应用引擎(SAE)的基本概念与核心优势 了解Serverless应用引擎(SAE)的核心功能 掌握使用Serverless应用引擎(SAE)的开发和部署流程 了解Serverless应用引擎(SAE)的适用场景和最佳实践  
相关文章
|
6天前
|
机器学习/深度学习 人工智能 算法
AI在体育分析与预测中的深度应用:变革体育界的智能力量
AI在体育分析与预测中的深度应用:变革体育界的智能力量
60 31
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
CogAgent-9B:智谱 AI 开源 GLM-PC 的基座模型,专注于预测和执行 GUI 操作,可应用于自动化交互任务
CogAgent-9B 是智谱AI基于 GLM-4V-9B 训练的专用Agent任务模型,支持高分辨率图像处理和双语交互,能够预测并执行GUI操作,广泛应用于自动化任务。
62 12
CogAgent-9B:智谱 AI 开源 GLM-PC 的基座模型,专注于预测和执行 GUI 操作,可应用于自动化交互任务
|
1天前
|
人工智能 运维 负载均衡
智能运维新时代:AI在云资源管理中的应用与实践
智能运维新时代:AI在云资源管理中的应用与实践
54 23
|
9天前
|
机器学习/深度学习 人工智能 监控
AI在交通管理系统中的应用
AI在交通管理系统中的应用
48 23
|
6天前
|
人工智能 算法 搜索推荐
阿里云百炼xWaytoAGI共学课开课:手把手学AI,大咖带你从零搭建AI应用
阿里云百炼xWaytoAGI共学课开课啦。大咖带你从零搭建AI应用,玩转阿里云百炼大模型平台。3天课程,涵盖企业级文本知识库案例、多模态交互应用实操等,适合有开发经验的企业或独立开发者。直播时间:2025年1月7日-9日 20:00,地点:阿里云/WaytoAGI微信视频号。参与课程可赢取定制保温杯、雨伞及磁吸充电宝等奖品。欢迎加入钉钉共学群(群号:101765012406),与百万开发者共学、共享、共实践!
|
6天前
|
存储 人工智能 监控
AI视频监控技术在公租房管理中的应用:提升监管精准度与效率
该AI视频监控系统具备1080P高清与夜视能力,采用深度学习技术实现高精度人脸识别(误识率1%),并支持实时预警功能,响应时间小于5秒。系统支持私有化部署,保障数据隐私安全,适用于大规模公租房社区管理,可容纳10万以上人脸库。基于开源架构和Docker镜像,一键部署简单快捷,确保24小时稳定运行,并提供详细的后台数据分析报表,助力政府决策。
|
11天前
|
人工智能 API
新年课程开启:手把手教学,0基础5次课程学会搭建无限拓展的AI应用
你是否想过自己也能动手搭建一个AI应用?现在,这个目标触手可及!
|
7天前
|
存储 人工智能 Serverless
7分钟玩转 AI 应用,函数计算一键部署 AI 生图大模型
人工智能生成图像(AI 生图)的领域中,Stable Diffusion WebUI 以其强大的算法和稳定的输出质量而闻名。它能够快速地从文本描述中生成高质量的图像,为用户提供了一个直观且高效的创作平台。而 ComfyUI 则以其用户友好的界面和高度定制化的选项所受到欢迎。ComfyUI 的灵活性和直观性使得即使是没有技术背景的用户也能轻松上手。本次技术解决方案通过函数计算一键部署热门 AI 生图大模型,凭借其按量付费、卓越弹性、快速交付能力的特点,完美实现低成本,免运维。
|
14天前
|
人工智能 资源调度 调度
云上AI Infra解锁大模型创新应用
本节课程由阿里云智能集团资深技术专家王超分享,主题为AI基础设施的发展趋势。课程聚焦于AI Infra设计与Scaling Law,探讨了下一代AI基础设施的设计目标、功能升级及推理场景中的应用。主要内容包括高效支持大规模模型训练和推理、全球调度系统的设计、Rack level的Scale优化以及多租户容器化使用方式。通过这些改进,旨在提升并行效率、资源利用率及稳定性,推动AI基础设施迈向更高性能和更优调度的新阶段。
|
10天前
|
人工智能 运维 API
PAI企业级能力升级:应用系统构建、高效资源管理、AI治理
PAI平台针对企业用户在AI应用中的复杂需求,提供了全面的企业级能力。涵盖权限管理、资源分配、任务调度与资产管理等模块,确保高效利用AI资源。通过API和SDK支持定制化开发,满足不同企业的特殊需求。典型案例中,某顶尖高校基于PAI构建了融合AI与HPC的科研计算平台,实现了作业、运营及运维三大中心的高效管理,成功服务于校内外多个场景。

相关产品

  • 函数计算
  • Serverless 应用引擎