AI 助理
备案控制台
开发者社区 > ModelScope模型即服务 > 正文

ModelScope中，推理时输入“11111”，结果应该返回“22222”吧？

"用swift基于lora训练了自己的数据集，用训练微调后模型做推理，但推理结果怎么不符合预期呀，比如自定义训练集里有
system,query,response
00000,11111,22222
00001,aaaaa,bbbbb
00002,AAAAA,BBBBB
ModelScope中，推理时输入“11111”，结果应该返回“22222”吧？"

展开
收起
小小爱吃香菜 2024-07-24 08:30:25 15 0
2 条回答
写回答
取消 提交回答
  • 为了利利

    对。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-07-24 16:25:23
    赞同 展开评论 打赏
  • 以山向海

    根据您的描述可能存在以下几种情况导致推理结果不符合预期：

    模型不匹配：确保您使用的是训练后微调的模型，而不是原始的LoRA模型。
    输入格式问题：检查推理时的输入“11111”是否与训练集中的query字段格式一致。
    模型泛化能力：微调后的模型可能在新数据上的表现不如预期，需要检查训练数据的多样性和质量。
    推理设置：确认推理设置是否正确，比如模型版本、环境变量等。
    常见问题

    2024-07-24 10:05:08
    赞同 3 展开评论 打赏
相关问答
modelscope-funasr这个中文模型在使用过程中推理结果会识别出现英文，为什么？
12
1
0
modelscope-funasr使用离线这个推理示例音频的时候，报了错误，是为什么？
10
1
0
在modelscope-funasr中推理的输出结果准确率要比直接推理的低，是参数有问题吗？
20
1
0
ModelScope中，把推理脚本改成这样了，报下面的错，怎么解决？
20
1
0
modelscope推理报错 swift infer 是啥问题呢？
20
1
0
modelscope的本地推理为什么会出现图中问题？
10
1
0
modelscope的自然语言推理或通用信息提取能做到下文理解吗？
13
1
0
modelscope-funasr用GPU推理，A10和4090在性能上，是不是差很多很多？
38
1
0
ModelScope中，推理时回答内容和预期不符，这个一般会是什么原因呢？
20
1
0
ModelScope中，为什么用vllm推理 比pt多了三倍的显存 ？
36
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

  • ModelScope中，模型下载默认路径在哪个路径？
    6576
  • ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？
    2425
  • ModelScope默认的下载位置是在哪里？
    668
  • 请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？
    4264
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
    3018
  • 服务器上onnxruntime-gpu 调用结束，如何释放显存
    4466
  • 无法导入 modelscope，已经pip install了
    2531
  • modelscope-funasr的FunClip怎么安装的？
    105
  • modelscope上跑报错，提示要pip install ttsfrd，搞不定
    6921
  • com/action/joingroup?code=v1是什么意思
    5936
    • 展开全部
  • 阿里云通义千问向全社会开放！
    24038
  • multi-agent：多角色Agent协同合作，高效完成复杂任务
    30926
  • Llama 3开源，魔搭社区手把手带你推理，部署，微调和评估
    9482
  • 开源版图生视频I2VGen-XL：单张图片生成高质量视频
    3091
  • vanna+qwen实现私有模型的SQL转换
    3941
  • ChatGPT中文版杀疯了,已登录AI模型市场
    13047
  • 中文大模型体验
    691
  • 大模型时代，还缺一只雨燕 ｜ SWIFT：魔搭社区轻量级微调推理框架
    3240
  • Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）
    3444
  • 从RMSE和MSE到更多选择：探索机器学习模型性能指标
    2672
    • 展开全部

    相关课程

    更多
  • 个性化语音合成模型微调
    246
    1
    去学习
  • ModelScope社区Library技术架构介绍
    220
    1
    去学习

    • 相关文章

  • 物联网卡使用过程中常见问题
  • 物联网卡应用中一些常见限制
  • 探索iOS开发：Swift与Objective-C的较量
  • 【通义】AI视界｜性能超越GPT-4o？最强大的开源AI模型来了……
  • C语言在阿里云

    • 相关电子书

    更多
    • 视觉AI能力的开放现状及ModelScope实战 立即下载
    ModelScope助力语音AI模型创新与应用 立即下载
    低代码开发师（初级）实战教程 立即下载