函数计算，有个问题 就是我之前设计的是排队机制 就一个模型实例 来多少请求排队执行 您现在的高并发是
函数计算，有个问题 就是我之前设计的是排队机制 就一个模型实例 来多少请求排队执行 您现在的高并发是支持不用排队就能并发推理的是吧？
每个模型占用2-3G显存，项目刚上线，目前18个AI产品在运行，量不是很大，接下来在准备凑足100个，您给分析一下推荐哪款付费方式划算。
展开
收起
1
条回答
写回答
写回答
-
您可以先在函数计算上将模型推理服务POC跑一下，看看有没有问题，特别是首次推理的冷启动能否接受
如果冷启动满足业务要求：建议使用函数计算的按量模式，仅对请求阶段进行计费
如果冷启动不满足业务要求：建议使用函数计算的弹性预留模式，通过合理的设置弹性预留策略（按时伸缩、按并发度伸缩等），来进行降本。具体可见：https://help.aliyun.com/zh/fc/use-cases/scenarios/?spm=a2c4g.11186623.0.0.515f6c9bPb8eF4
建议优先在函数计算上POC一下，实际跑一下看看。
此答案来自钉钉群“阿里函数计算官网客户”
2023-09-17 09:04:58赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
请问主域名备案了，子域名还要备案吗？
8027
sd界面里为啥没有lora模块选项呀？
79865
在终端怎么升级python？
6654
sd从网址安装插件报错：AssertionError: extension access disab
13065
哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
11415
按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
1558
求助下大家，sd云端跑的时候报这个错误
15699
帮忙指点一下这个问题，谢谢 加了证书，也是用https 请求的，本地环境正常，部署在函数计算
1061
函数计算FC提示网页可能暂时无法连接，或者它已永久性地移动到了新网址是什么意思？
936
在函数计算中，为什么镜像源地址设置不起作用？
494
展开全部
开发函数计算的正确姿势 —— 移植 next.js 服务端渲染框架
36002
快速搭建基于 Serverless 的 .NET Core 数据库应用
24807
首次揭秘：阿里巴巴中间件在 Serverless 技术领域的探索
21761
玩转阿里云函数计算(一)----Java Http 触发器极速迁移传统 Spring 应用
22684
浅析基于 Serverless 的前后端一体化框架 | 7月2号云栖夜读
16389
大道至简 - 基于Docker的Serverless探索之旅
17704
基于阿里云Serverless架构下函数计算的最新应用场景详解（一）
15776
阿里云函数计算 - 事件驱动的serverless计算平台
16432
Aliyun Serverless VSCode Extension v1.7.0 发布
10911
免运维，低成本，应用上云新模式 | 阿里云Serverless应用引擎 SAE 邀您公测
10374
展开全部
