Serverless 应用引擎常见问题之AI应用限制人为限制内存如何解决

简介: Serverless 应用引擎(Serverless Application Engine, SAE)是一种完全托管的应用平台,它允许开发者无需管理服务器即可构建和部署应用。以下是Serverless 应用引擎使用过程中的一些常见问题及其答案的汇总:

问题一:PolarDB的Serverless版支持x-engine引擎吗?


PolarDB的Serverless版支持x-engine引擎吗?


参考回答:

目前功能开发完了,下个版本可以开。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602205


问题二:polarDB serverless弹性上线最大是17核,这个增量嘛?


polarDB serverless弹性上线最大是17核,这个增量嘛?比如现在是64核,可以弹到81核?



参考回答:

最大16核,是增量。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602168


问题三:阿里云ASK 的ack serverless 支持Pod显存设置吗?


阿里云ASK 的ack serverless 支持Pod显存设置吗?还是目前仅支持单张GPU,文档里面好像没有相关描述


参考回答:

阿里云的ACK Serverless(ASK)支持设置Pod显存,并且支持多张GPU

首先,关于Pod显存设置的问题,虽然文档中可能没有明确说明Pod级别的显存设置,但是考虑到ACK Serverless基于ECI(弹性容器实例),它确实支持了GPU容器实例。这意味着用户可以利用ECI服务在ACK Serverless集群中部署需要GPU资源的容器应用,并按需使用GPU计算资源。

进一步来说,ECI GPU支持的驱动版本为NVIDIA 460.73.01,且支持CUDA Toolkit版本为11.2。这为用户提供了在ACK Serverless集群中使用GPU的能力,尤其是在进行AI计算任务时可以显著提升计算效率。而且,ECI支持通过指定ECS GPU规格来创建ECI GPU实例,这表明用户可以根据需要选择不同规格的GPU资源,从而间接实现Pod显存的设置。

总结而言,尽管文档中可能未详细描述Pod级别的显存配置,但通过ECI GPU实例的支持,用户仍然可以在ACK Serverless集群中根据需求部署和管理具有GPU资源的容器,实现高效灵活的计算任务执行。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/602111


问题四:函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


函数计算中serverless的AI应用可以限制人为限制内存吗?只在函数式那边看到内存的分配...


参考回答:

做个任务分配,然后预先创建不同规格的函数。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601932


问题五:函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


函数计算FC的Serverless API 支持模型训练的操作吗?对应的接口文档有嘛?


参考回答:

也是支持训练的,跟webui的原生api接口相同,不过还是推荐使用原生的webui-api进行训练。 https://developer.aliyun.com/article/1429825#slide-6 , 其他文档中不存在的接口同webui-api接口(/docs)。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/601863

相关实践学习
SAE极速部署弹性微服务商城
本实验带您体验在Serverless应用引擎SAE(Serverless App Engine)上快速部署一个弹性的在线商城微服务应用,使得终端用户可以通过公网访问访问该商城,并进行压力测试以验证其性能与稳定性。
相关文章
|
10月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
923 30
|
10月前
|
人工智能 运维 安全
加速智能体开发:从 Serverless 运行时到 Serverless AI 运行时
在云计算与人工智能深度融合的背景下,Serverless 技术作为云原生架构的集大成者,正加速向 AI 原生架构演进。阿里云函数计算(FC)率先提出并实践“Serverless AI 运行时”概念,通过技术创新与生态联动,为智能体(Agent)开发提供高效、安全、低成本的基础设施支持。本文从技术演进路径、核心能力及未来展望三方面解析 Serverless AI 的突破性价值。
|
10月前
|
机器学习/深度学习 人工智能 Serverless
吉利汽车携手阿里云函数计算,打造新一代 AI 座舱推理引擎
当前吉利汽车研究院人工智能团队承担了吉利汽车座舱 AI 智能化的方案建设,在和阿里云的合作中,基于星睿智算中心 2.0 的 23.5EFLOPS 强大算力,构建 AI 混合云架构,面向百万级用户的实时推理计算引入阿里云函数计算的 Serverless GPU 算力集群,共同为智能座舱的交互和娱乐功能提供大模型推理业务服务,涵盖的场景如针对模糊指令的复杂意图解析、文生图、情感 TTS 等。
|
11月前
|
存储 人工智能 Serverless
函数计算进化之路:AI 应用运行时的状态剖析
AI应用正从“请求-响应”迈向“对话式智能体”,推动Serverless架构向“会话原生”演进。阿里云函数计算引领云上 AI 应用 Serverless 运行时技术创新,实现性能、隔离与成本平衡,开启Serverless AI新范式。
977 12
|
11月前
|
存储 人工智能 安全
函数计算进化之路:AI Sandbox 新基座
AI Agent Sandbox 是应对 AI 代理自主性风险的关键技术,提供安全隔离环境以执行代码、交互应用和处理敏感数据。它解决了三大挑战:隔离与安全、状态管理与成本、可扩展性与运维。阿里云函数计算凭借物理隔离架构、Serverless 弹性与成本优势,结合会话亲和、隔离及存储安全等创新能力,成为 AI Agent Sandbox 的理想运行时平台,助力 AI 技术安全落地与商业化发展。
|
11月前
|
人工智能 机器人 Serverless
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
当云计算遇见具身智能,AI咖啡开启零售新体验。用户通过手机生成个性化图像,云端AI快速渲染,机器人精准复刻于咖啡奶泡之上,90秒内完成一杯可饮用的艺术品。该方案融合阿里云FunctionAI生图能力与安诺机器人高精度执行系统,实现AIGC创意到实体呈现的闭环,为线下零售提供低成本、高互动、易部署的智能化升级路径,已在商场、机场、展馆等场景落地应用。
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
|
11月前
|
人工智能 Serverless API
函数计算的云上计费演进:从请求驱动到价值驱动,助力企业走向 AI 时代
函数计算计费方式历经三阶段演进:从按请求计费,到按活跃时长毫秒级计费,再到按实际资源消耗分层计费。背后是资源调度、安全隔离与开发体验的持续优化。尤其在AI时代,低负载减免、会话亲和等技术让计费更贴近真实价值,推动Serverless向“按需使用、按量付费”终极目标迈进。
|
11月前
|
存储 人工智能 Serverless
企业级 AI Agent 开发指南:基于函数计算 FC Sandbox 方案实现类 Chat Coding AI Agent
本文深入解析AI Agent系统架构,特别是以Sandbox为核心的落地实践。聚焦泛Chat模式下AI应用的挑战与解决方案,涵盖会话亲和性、隔离性、存储机制、会话恢复、资源弹性等关键技术点,阿里云函数计算(FC)为 AI Agent 系统在企业中的落地实践提供实际解决方案,展示了如何高效、安全地构建可扩展的 AI 应用系统。
1069 11
|
11月前
|
人工智能 Serverless API
函数计算的云上计费演进:从请求驱动到价值驱动,助力企业走向 AI 时代
在 AI 时代,函数计算一直坚持走向“让开发者只关心业务逻辑,云厂商自动完成一切资源管理与调度”的愿景,最终让计算像水、电一样随时可得、按实际使用价值付费。
|
11月前
|
存储 人工智能 安全
函数计算进化之路:AI Sandbox 新基座
AI Agent 的兴起催生了一种全新的、独特的云工作负载类型。它既不完全符合传统 IaaS(对于零散、突发的使用场景而言过于昂贵和笨重)的模式,也打破了第一代 FaaS(函数即服务,因其无状态和较弱的隔离保证而无法满足需求)的设计假想。市场迫切需要一种新型运行时——它必须兼具虚拟机的状态化和隔离性与 Serverless 的经济性和弹性。这正是阿里云函数计算(Function Compute, FC)架构演进所要解决的核心问题。

热门文章

最新文章

相关产品

  • 函数计算
  • Serverless 应用引擎