开发者社区 > 云原生 > Serverless > 正文

sd那个应用我看冷启动这么久?两个都是50多秒。

sd那个应用我看冷启动这么久?两个都是50多秒

提问1.png

提问2.png

展开
收起
Java工程师 2023-04-17 14:50:03 591 0
3 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com

    阿里云函数计算的冷启动时间根据不同的应用以及配置有所差异,一般来说确实存在一定的冷启动时间。您所提到的SD应用可能是指Serverless Devs,除了函数计算,它还支持其他云平台。对于冷启动时间长的问题,我们可以尝试以下优化:

    1. 使用预热功能。函数计算的预热功能可以提前准备好运行环境,降低冷启动时间。

    2. 使用较小的运行环境。如果应用不需要使用较大的运行环境,可以选择使用较小的运行环境,这将降低构建和部署过程中的时间。

    3. 使用本地跨云开发工具。本地开发工具可以在本地运行和测试函数,省去了等待部署和运行的时间。

    4. 优化函数代码。使用较少的依赖项和更高效的代码,可以减少函数执行时间。

    2023-04-30 08:42:27
    赞同 展开评论 打赏
  • AIGC模型是放在了应用/initialize里加载,所以用户侧看都算在GPU冷启动里了

    如果换一个其它相对小一些的推理模型,比如mobilenet-v2或者ppocr,您也可以观察到GPU冷启动耗时相应的缩短(10秒左右)

    GPU容器拉起比较快,主要是模型加载的耗时。

    此答案来自钉钉群“阿里函数计算官网客户"

    2023-04-17 18:12:17
    赞同 展开评论 打赏
  • 十年摸盘键,代码未曾试。 今日码示君,谁有上云事。

    冷启动频率增大是Serverless vs. Serverful 架构引入的一个新的挑战,过高的延迟可能会让对长尾延迟(P99)敏感的业务望而却步。在函数计算中,可以采用下面的办法来减小冷启动的影响。

    精简紧凑的代码包: 开发者要尽可能瘦身代码包,去掉不必要的依赖。

    降低Download/Extract Code的时间。例如对Nodejs函数使用npm prune, 对Python函数使用autoflake , autoremove 

    去除没有使用的依赖。另外一些第三方库中可能会包含test源代码,无用binary,和数据文件。有选择地删除无用文件可以降低函数代码下载解压时间。

    选择合适的函数语言: 在热启动延迟差别不大的情况下,使用Python这样的轻量语言可以大幅降低长尾延迟。

     选择合适的内存: 在并发量一定的情况下,函数内存越大,冷启动表现越优。

    避免不必要的配置: 对于没有需求的函数,不配置VPC功能对冷启动有很大帮助。

    降低冷启动概率:使用定时触发器 预热函数 使用Initializer 函数入口,函数计算会异步调用初始化接口,消除掉“User Code Init” 的时间,在函数计算系统升级或者函数更新过程中,用户对冷启动几乎无感知。

    冷启动是Serverless运行环境中开发者必须面对的痛点。开发者可以通过精简代码,选择合适配置降低冷启动的影响。

    2023-04-17 16:55:06
    赞同 展开评论 打赏
问答地址:

快速交付实现商业价值。

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载