AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

Modelscope的ftd模型，在export之前是正常的，export之后回答就边了呢？

"Modelscope的ftd模型，在export之前是正常的，export之后回答就边了呢？ 导出命令CUDA_VISIBLE_DEVICES=0 swift export \
--ckpt_dir /root/tsq_project/swift/examples/pytorch/llm/output/qwen1half-0_5b-chat/v0-20240412-094253/checkpoint-704 --load_dataset_config true \
--merge_lora true \"

展开
收起
小小爱吃香菜 2024-04-24 08:20:47 33 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了利利

    "合并前后的推理代码不同，您看下呢。 0645c4cb6f8bb957fb6a259f55add580.png
    此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"

    2024-04-24 12:19:28
    赞同 1 展开评论
相关问答
modelscope中使用:swift export，来合并量化模型，报错是为什么？
105
1
0
导出ONNX类型模型后，modelscope-funasr能运行这个导出的模型吗？
84
0
0
modelscope-funasr部署的离线语音服务不支持 cam这种模型么 ？
68
0
0
ModelScope模型访问不了,怎么解决？
103
1
0
跑model_type 是可以的，跑通一个后再跑其他ModelScope模型会有问题吗？
56
1
0
tts的模型，10个字，在4090显存拉满的情况下，ModelScope的rps并发能到多少？
75
0
0
modelscope-funasr的paraformer模型的训练数据建议多少样本吗？
53
0
0
ModelScope模型如果下载到本地了，用pipeline还需要联网吗？
143
1
0
ModelScope模型已经初始化了，放在init函数中了，然后再进行一次推理，单纯推理就时间很长？
37
1
0
ModelScope模型自我认知微调后推理正常，部署也没报错，调用接口就报错，怎么解决？
56
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • Chat2SVG – 文本描述实现高质量矢量图形的生成框架
  • 如何在Ubuntu上安装TensorFlow 24.04
  • 使用Python和DeepSeek进行联网搜索的实践指南
  • 《探索AI与鸿蒙融合的开源宝藏：这些框架你不能错过》
  • 《鸿蒙AI开发：第三方库管理与更新全攻略》

    • 热门讨论

    热门文章

  • modelscope-funasr==1.0.5依赖的torch版本是多少？
  • ModelScope中，模型下载默认路径在哪个路径？
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • 关于wan2.1显存占用的问题
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 无法导入 modelscope，已经pip install了
  • ModelScope下载速度慢怎么解决？
  • llama factory微调报错CUDA未被检测！
    • 展开全部
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • 本地部署DeepSeek模型
  • OWL：告别繁琐任务！开源多智能体系统实现自动化协作，效率提升10倍
  • WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • 阿里通义开源推理模型新王者！QwQ-32B：性能直逼671B的DeepSeek-R1
  • WhisperChain：开源 AI 实时语音转文字工具！自动消噪优化文本，效率翻倍
  • 深度评测 | 仅用3分钟，百炼调用满血版 Deepseek-r1 API，百万Token免费用，简直不要太爽。
  • 通义万相Wan2.1视频模型开源！视频生成模型新标杆，支持中文字效+高质量视频生成
    • 展开全部
    还有其他疑问?
    咨询AI助理