函数计算FC能否部署lora模型训练器?git上一个开源的项目

函数计算FC能否部署lora模型训练器?git上一个开源的项目

展开
收起
三分钟热度的鱼 2024-01-10 15:58:09 91 发布于安徽 分享
分享
版权
举报
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    函数计算(Function Compute)确实支持部署LORA模型训练器。首先,你需要准备好用于训练Lora模型的数据集,这些数据集应包含输入数据和对应的标签或输出结果。然后,使用Python或其他支持的语言编写训练代码,包括数据预处理、模型定义、训练过程等。

    在函数计算FC上,你可以使用Stable Diffusion(SD)模型进行LORA(Low-Rank Approximation)训练。需要注意的是,训练的成本会受到多种因素的影响,包括训练数据量、模型大小、服务器规格以及训练时间。此外,如果你需要自定义模型,还需要借助NAS产品的存储能力来存储你的模型文件。

    2024-01-13 14:46:47 发布于河南 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 阿里云函数计算(Function Compute)确实支持部署LORA模型训练器。首先,你需要准备用于训练LORA模型的数据集,数据集应该包含输入数据和对应的标签或输出结构。然后,你可以使用kohya_ss应用在函数计算FC云端进行LORA模型的训练。

    需要注意的是,如果你想要在阿里云函数计算中训练LORA模型,可能会受到多种因素的影响,包括训练数据的大小,使用的硬件配置,以及运行的时间等,这些都可能导致训练成本的变化。例如,如果基础大模型3.97 GB,Lora模型400 MB,那么您可以免费存储2个大模型、3个Lora模型。

    另外,在部署过程中,你也可以使用Git上的开源项目。如果该项目提供了部署脚本,例如s.yml文件,你可以在本地目录中执行 "s deploy"的相关命令将资源部署到函数计算。

    2024-01-12 08:45:28 发布于河北 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 部署没问题,但是需要看对应的项目是否适配 Serverless 模式。由于 Serverless 只有有调用的情况下才收费,所以只有有请求的情况下才会执行,无法运行背景线程。训练这种长时间的任务需要建立长连接。打一个镜像,直接创建函数就行哈。参考https://help.aliyun.com/zh/fc/use-cases/serverless-ai-inference-based-on-function-compute-and-tensorflow?spm=a2c4g.11186623.0.0.559616ecBV2FUi 此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2024-01-10 16:05:48 发布于安徽 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论

快速交付实现商业价值。

还有其他疑问?
咨询AI助理
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等