函数计算，请教一下，目前使用 SD 的自定义模型，冷启动大约要 40 多秒，有加速的可能性吗？
函数计算，请教一下，目前使用 SD 的自定义模型，冷启动大约要 40 多秒，有加速的可能性吗？
展开
收起
1
条回答
写回答
写回答
-
FC按量调用的SD冷启动耗时，当前差不多是这个水平
1.
SD on 本地应用启动耗时：~12s
SD on FC应用启动耗时：~16s（+4s）2.
SD on 本地模型加载耗时：~18s
SD on FC模型加载耗时：~26s （+8s）3.
SD on 本地端到端总耗时：~30s
SD on FC端到端总耗时：~42s（+12s）可以看到，本地拉起一个SD（含SD1.5基础模型加载）就需要耗时~30s，这部分应用侧耗时大头不太好解，都是必要的三方库加载（torch）、以及模型初始化；FC计算环境相比本地，增加了额外的~12s。
如果业务当前接受不了首次冷启动，可以使用FC的预留实例：https://help.aliyun.com/zh/fc/use-cases/real-time-inference-scenarios?spm=a2c4g.11186623.0.0.5ad47541cyVct2
另外，我也想了解下，一般AIGC业务都是准实时，耗时一般都在10s级别，您这边业务能接受的冷启动耗时是个什么样子的水平
此答案来自钉钉群“阿里函数计算官网客户”
2023-09-05 16:50:43赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
请问主域名备案了，子域名还要备案吗？
8054
sd界面里为啥没有lora模块选项呀？
79897
按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
1584
在终端怎么升级python？
6684
sd从网址安装插件报错：AssertionError: extension access disab
13078
哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
11432
函数计算FC提示网页可能暂时无法连接，或者它已永久性地移动到了新网址是什么意思？
960
求助下大家，sd云端跑的时候报这个错误
15710
GPU实例中T4和A10两款性能差别多大？另外如何在s.yaml中指定GPU型号呢？
8046
帮忙指点一下这个问题，谢谢 加了证书，也是用https 请求的，本地环境正常，部署在函数计算
1077
展开全部
函数计算-触发OSS来处理图片加水印和大小裁剪
10970
十分钟上线-在函数计算上部署基于django开发的个人博客系统
10661
【云计算的1024种玩法】一小时用阿里云函数计算部署一个 ServerLess 化的按量版 WordPress
4341
【开课了】小程序Serverless 基础系列课程
4448
阿里云发布新一代容器、Serverless等云原生产品，加速企业向现代IT架构演进
2360
一文读懂 Serverless 的起源、发展和落地实践
10102
免费公测｜阿里云EMR Serverless StarRocks 公测正式开启！
6645
Serverless 微服务治理神器： 阿里云 SAE 全链路灰度揭秘
357
智能体（Agent）平台介绍
3798
阿里云函数计算 GPU 宣布降价，最高幅度达 93%，阶梯计费越用越便宜！
18852
展开全部
