开发者社区 > 云原生 > Serverless > 正文

函数计算FC1.5.1版本 我的模型一大就运行不,是为什么?

函数计算FC1.5.1版本 我的模型一大就运行不,是为什么?

展开
收起
三分钟热度的鱼 2023-10-18 22:00:41 52 0
3 条回答
写回答
取消 提交回答
  • 可能是受到了函数运行的资源限制,可以参考如下进行调整。
    image.png

    2023-11-11 16:02:29
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    在函数计算FC 1.5.1版本中,如果您的模型较大,可能会导致运行时出现问题。这可能是由于以下原因:

    1. 内存限制:函数计算FC实例可能没有足够的内存来加载和运行大模型。您可以尝试增加实例的内存配置,以便为模型提供足够的内存资源。
    2. 计算资源不足:大模型需要更多的计算资源,特别是在进行推理时。您可以尝试升级您的函数计算FC实例,以提供更多的计算资源。
    3. 模型优化:您可以通过对模型进行压缩、剪枝或其他优化技术来减小模型的规模,从而使其在函数计算FC上运行得更好。
    4. 分批次处理:您还可以尝试将输入数据分批次处理,以减小模型的计算负担。这可以通过在Python中使用torch.split()函数或其他类似方法来实现。
    5. 检查代码:确保您的代码中没有错误或异常,这些错误可能会导致模型无法正常运行。
    2023-11-05 22:03:37
    赞同 展开评论 打赏
  • 卸载重装试一试。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-10-18 22:09:52
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 热门讨论

    热门文章

    相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载