备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

在ModelScope swift开源项目里面有个infer的文件，代码里有加载lora推理的逻辑

在ModelScope中，swift开源项目，里面有个infer的文件，代码里有加载lora推理的逻辑怎么办？https://github.com/modelscope/swift/blob/main/examples/pytorch/llm/src/llm_infer.py

展开

收起

LLLA 2023-09-19 21:24:26 80 0

1 条回答

写回答

取消提交回答

AAAOY

是用full训练的话，直接使用这个。
。此回答来自“魔搭ModelScope开发者联盟群 ①”

2023-09-19 22:54:44

赞同展开评论打赏

相关问答

在modelscope-funasr映射地址中没有找到对应的热词文件，怎么回事？

39

0

0

modelscope-funasr的长文件会分多次返回结果吗？

23

0

0

ModelScope中Swift框架下加载 deepseek-coder-v2-lite怎么回事？

34

1

0

ModelScope中，使用SWIFT的进行sft报错，这是要升级驱动？

37

1

0

modelscope-funasr使用itn的时候是否需要加载模型呀？

29

0

0

modelscope直接加载是错误的吗？

24

1

0

modelscope的swift昨天部署还是正常运行的，今天重启电脑后就一直报错如下错误，怎么解决？

22

1

0

modelscope-funasr加载本地模型的时候报错应该怎么解决呢？

48

1

0

ModelScope模型id 不支持以下功能吗？

31

1

0

modelscope-funasr的offline模型可以不进行缓存处理吗？

79

0

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

我希望通过damo-YOLO训练1500*1500的图片

服务器上onnxruntime-gpu 调用结束，如何释放显存

请问在 ModelScope 上的模型断网使用报这个错误啥原因了?

在ModelScope中，请问模型下载到本地的具体方法？

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

ModelScope 使用14B模型推理时报这个错误？

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

modelscope cache 环境变量是啥？

展开全部

YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开

YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度

一种基于YOLOv8改进的高精度红外小目标检测算法（原创自研）

图像分类基础与实战

视觉AI技术体系及趋势概述

关于flux.1 loras的8个问题

《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录

关键点检测从入门到进阶

展开全部

相关课程

更多

个性化语音合成模型微调

250

1

去学习

ModelScope社区Library技术架构介绍

227

1

去学习

1179

31

去学习

相关电子书

更多

ModelScope助力语音AI模型创新与应用 立即下载

OpenStack Swift 海量小文件性能优化之路 立即下载

From Java_Android to Swift iOS 立即下载