函数计算FC的lora模型 是往lora目录里上传吗?
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
函数计算 FC 的 lora 模型可以通过以下方式上传:
使用函数计算控制台。在函数计算控制台的「函数」页面中,找到需要上传模型的函数,然后点击「模型管理」按钮。在「模型管理」页面中,点击「上传模型」按钮,选择 lora 模型,然后点击「确定」按钮。
使用函数计算 CLI。使用函数计算 CLI 创建函数时,可以使用--model-file 参数指定 lora 模型的本地路径。例如:
fc create function --name my-function --runtime nodejs14 --handler index.handler --model-file /path/to/my-model.ora
使用函数计算 SDK。使用函数计算 SDK 创建函数时,可以使用 Model 对象指定 lora 模型。例如:
import { Model } from '@alicloud/fc-core';
const model = new Model({
name: 'my-model',
file: fs.readFileSync('/path/to/my-model.ora'),
});
const functionConfig = {
name: 'my-function',
runtime: 'nodejs14',
handler: 'index.handler',
models: [model],
};
fc.createFunction(functionConfig);
上传 lora 模型之后,您可以通过以下方式使用 lora 模型:
在函数计算控制台的「函数」页面中,找到需要调用 lora 模型的函数,然后点击「调用」按钮,选择「模型调用」类型,在「模型名称」中输入 lora 模型的名称,然后点击「调用」按钮。
使用函数计算 CLI 调用 lora 模型。使用函数计算 CLI 调用 lora 模型时,可以使用以下命令:
fc invoke --function-name my-function --model my-model --payload '{"data": "my-data"}'
使用函数计算 SDK 调用 lora 模型。使用函数计算 SDK 调用 lora 模型时,可以使用以下代码:
import { fc } from '@alicloud/fc-core';
const result = await fc.invokeFunction('my-function', {
model: 'my-model',
payload: '{"data": "my-data"}'
});
以上就是函数计算 FC 的 lora 模型上传和调用方法。需要注意的是,lora 模型的大小不能超过 256 KB。