开发者社区 > 云原生 > Serverless > 正文

函数计算FC的sd api如何加载模型呢?关闭了webui后,用api获取的模型hash是null。

函数计算FC的sd api如何加载模型呢?关闭了webui后,用api获取的模型hash是null。

展开
收起
三分钟热度的鱼 2023-08-29 16:37:35 121 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    我已经认真阅读了 你的问题:

    【 函数计算FC的sd api如何加载模型呢?关闭了webui后,用api获取的模型hash是null。

    并思考了

    建议如下:


    在阿里云函数计算 FC 中,使用 SD(Serverless Deployment)API 加载模型的方法如下:

    1. 首先,创建一个函数,并在函数中编写加载模型的代码。在函数的 config.json 文件中,添加 模型名称 和 模型路径 属性,用于指定模型的加载路径。例如:

    {
    "函数名称": "main",
    "编程语言": "python",
    "模型名称": "my_model",
    "模型路径": "arn:aliyun:sd:us-west-1:123456789012:model:my_model_01",
    "运行环境": {
    "内存": 128,
    "核心数": 1
    }
    }
    CopyCopy

    这里的 模型名称 和 模型路径 需要与您在 SD 中创建的模型名称和 ARN 相匹配。

    1. 使用阿里云 SDK(如 Python SDK)调用 fc.create_function 方法创建函数。函数创建成功后,模型会自动加载到函数中。
    2. 在函数中使用加载的模型进行预测或者其他操作。
      注意:如果在关闭 Web UI 后,使用 API 获取的模型 hash 是 null,可能是因为模型没有正确加载。您可以尝试以下方法解决这个问题:
    3. 确保模型的 ARN 和名称正确。检查 config.json 文件中的 模型名称 和 模型路径 是否与 SD 中创建的模型匹配。
    4. 确保函数计算 FC 实例的权限正确。如果实例权限不足,可能导致模型无法加载。您可以尝试调整实例的访问权限,或者使用 IAM 角色授权。
    5. 检查阿里云 SDK 的版本。确保您使用的 SDK 版本与函数计算 FC 实例的版本兼容。
    6. 如果以上方法都无法解决问题,可以尝试联系阿里云技术支持,寻求专业的帮助和解决方案。
    2023-08-29 20:59:08
    赞同 展开评论 打赏
  • 调用更新设置的api,设置一下主模型,可以让sd进行加载。好像是/sdapi/v1/option post提交。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-08-29 17:36:51
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    Spring Boot2.0实战Redis分布式缓存 立即下载
    CUDA MATH API 立即下载
    API PLAYBOOK 立即下载