备案控制台
探索云世界
开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

在ModelScope swift开源项目 里面有个infer的文件，代码里有加载lora推理的逻辑

在ModelScope中，swift开源项目，里面有个infer的文件，代码里有加载lora推理的逻辑怎么办？https://github.com/modelscope/swift/blob/main/examples/pytorch/llm/src/llm_infer.py

展开
收起
LLLA 2023-09-19 21:24:26 42 0
1 条回答
写回答
取消 提交回答
  • AAAOY

    是用full训练的话，直接使用这个。
    image.png。此回答来自“魔搭ModelScope开发者联盟群 ①”

    2023-09-19 22:54:44
    赞同 展开评论 打赏
相关问答
每个api对应一个json字符串,请问这种ModelScope文件有吗？
7
1
0
ModelScope中,哪里可以下载所有的api文件啊？
6
1
0
modelscope中,swift路径还是提示没有swift命令?
9
2
0
modelscope中,为啥报swift command not found?
7
1
0
modelscope中,源码安装完就不需要install ms-swift了吧?
8
1
0
ModelScope中,swift版本是什么呀?
8
0
0
ModelScope中,Qwen1.5 目前\只能使用SWIFT 方式 启动 WEB界面的对话吗？
6
1
0
Qwen1.5 lora 微调后有合并ModelScope参数的脚本吗？
11
1
0
ModelScope的镜像里的swift不支持codeQwen7B？
4
0
0
ModelScope模型长度 swift 能控制么 ?
7
0
0
ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

  • com/action/joingroup?code=v1是什么意思
    2478
  • ModelScope中，模型下载默认路径在哪个路径？
    1947
  • ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
    1026
  • 我希望通过damo-YOLO训练1500*1500的图片
    6568
  • streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
    1381
  • Modelscope魔塔的创空间的文件怎么下载到本地呀？
    2903
  • 服务器上onnxruntime-gpu 调用结束，如何释放显存
    2930
  • ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
    2728
  • ModelScope从魔塔社区创建的阿里服务 没有使用抵扣资源包 而是付费实例。怎么处理？
    195
  • modelscope上建了一个创空间网站首页总是显示： 您输入的内容不符合网站要求，请您更换后试试？
    634
    • 展开全部
  • Stable Diffusion 介绍与入门
    1097
  • AI人像动漫
    527
  • 视觉AI技术体系及趋势概述
    330
  • modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量
    518
  • 人像增强修复
    758
  • AI给你送年画啦！每一张都是独一无二
    712
  • 图像分类基础与实战
    387
  • Stable Diffusion使用窍门
    369
  • 人像卡通化
    760
  • ModelScope模型使用与EAS部署调用
    55
    • 展开全部

    相关课程

    更多
  • 个性化语音合成模型微调
    40
    1
    去学习
  • ModelScope社区Library技术架构介绍
    174
    1
    去学习
  • Swift 速成
    1115
    31
    去学习

    • 相关文章

  • pytorch与深度学习
  • 探索移动应用开发的未来之路
  • 五大智能运维场景
  • 未来交织：区块链技术、物联网与虚拟现实的融合趋势
  • ModelScope

    • 相关电子书

    更多
    • OpenStack Swift 海量小文件优化之路 立即下载
    From Java/Android to Swift iOS 立即下载
    Swift在Airbnb的应用实践 立即下载