2
条回答
写回答
写回答
-
-
北京阿里云ACE会长
我已经认真阅读了 你的问题：
【 函数计算，GPU最高24G吗，有没有提高的方法？
】并思考了
建议如下:
联系对应云服务商看是否支持申请提升GPU资源增益。有些服务商允许根据需求提升增益。
尝试使用更高配置的函数运行时，例如搭载更大GPU的定制运行时。
优化模型和代码并减少单次调用对GPU资源的占用。比如减小batch size。
将模型分布运行在多个函数实例上，每个实例使用部分GPU资源。
根据具体业务场景，考虑迁移部分计算任务到专用的深度学习环境中执行。
等待公有云持续升级硬件资源，函数计算也可能相应限制增加。
选择专业的AI服务如加速卡，它们相比在GPU资源上计算的函数会更加弹性。
根据实际需求规模，也可以考虑自建AI供应的方案。
所以总体思路是：
与云服务商洽谈
使用更高配置运行时
优化模型与代码
分配部署
迁移部分任务
选择专业AI服务2023-08-20 09:58:46赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
请问主域名备案了，子域名还要备案吗？
8447
按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
1980
哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
11666
sd界面里为啥没有lora模块选项呀？
80178
在终端怎么升级python？
6936
遇到 libGL.so.1: cannot open shared object file: No
735
帮忙指点一下这个问题，谢谢 加了证书，也是用https 请求的，本地环境正常，部署在函数计算
1237
sd从网址安装插件报错：AssertionError: extension access disab
13292
GPU实例中T4和A10两款性能差别多大？另外如何在s.yaml中指定GPU型号呢？
8235
域名解析到国外ip没问题吧？
19143
展开全部
Serverless下日志采集、存储、分析实践
9126
一文读懂 Serverless 的起源、发展和落地实践
10766
Serverless 微服务治理神器： 阿里云 SAE 全链路灰度揭秘
711
云原生应用开发平台CAP评测
159
智能体（Agent）平台介绍
4126
前端全栈之路Deno篇：Deno2.0与Bun对比，谁更胜一筹？可能Deno目前更适合serverless业务
243
阿里云函数计算 GPU 宣布降价，最高幅度达 93%，阶梯计费越用越便宜！
19029
AI 绘画平台难开发，难变现？试试 Stable Diffusion API Serverless 版解决方案
10820
免费公测｜阿里云EMR Serverless StarRocks 公测正式开启！
6914
函数计算产品使用问题之ComfyUI界面没有显示Manager按钮是什么原因
566
展开全部
