函数计算FC的lora模型 是往lora目录里上传吗?

函数计算FC的lora模型 是往lora目录里上传吗?

展开
收起
三分钟热度的鱼 2023-08-08 15:27:41 95 分享 版权
1 条回答
写回答
取消 提交回答
  • 函数计算 FC 的 lora 模型可以通过以下方式上传:

    使用函数计算控制台。在函数计算控制台的「函数」页面中,找到需要上传模型的函数,然后点击「模型管理」按钮。在「模型管理」页面中,点击「上传模型」按钮,选择 lora 模型,然后点击「确定」按钮。
    使用函数计算 CLI。使用函数计算 CLI 创建函数时,可以使用--model-file 参数指定 lora 模型的本地路径。例如:
    fc create function --name my-function --runtime nodejs14 --handler index.handler --model-file /path/to/my-model.ora
    使用函数计算 SDK。使用函数计算 SDK 创建函数时,可以使用 Model 对象指定 lora 模型。例如:
    import { Model } from '@alicloud/fc-core';

    const model = new Model({
    name: 'my-model',
    file: fs.readFileSync('/path/to/my-model.ora'),
    });

    const functionConfig = {
    name: 'my-function',
    runtime: 'nodejs14',
    handler: 'index.handler',
    models: [model],
    };

    fc.createFunction(functionConfig);
    上传 lora 模型之后,您可以通过以下方式使用 lora 模型:

    在函数计算控制台的「函数」页面中,找到需要调用 lora 模型的函数,然后点击「调用」按钮,选择「模型调用」类型,在「模型名称」中输入 lora 模型的名称,然后点击「调用」按钮。
    使用函数计算 CLI 调用 lora 模型。使用函数计算 CLI 调用 lora 模型时,可以使用以下命令:
    fc invoke --function-name my-function --model my-model --payload '{"data": "my-data"}'
    使用函数计算 SDK 调用 lora 模型。使用函数计算 SDK 调用 lora 模型时,可以使用以下代码:
    import { fc } from '@alicloud/fc-core';

    const result = await fc.invokeFunction('my-function', {
    model: 'my-model',
    payload: '{"data": "my-data"}'
    });
    以上就是函数计算 FC 的 lora 模型上传和调用方法。需要注意的是,lora 模型的大小不能超过 256 KB。

    2023-09-25 17:06:19
    赞同 展开评论

快速交付实现商业价值。

还有其他疑问?
咨询AI助理