AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

按照“15分钟掌握大模型自我认知微调，定制个人专属大模型”说明碰到的问题

在2.2 微调前推理
首先，测试Qwen在未经微调前的自我认知和通用能力。swift支持使用python和CLI的方式对大模型进行微调、推理等。这里介绍使用python的方式进行推理
执行脚本
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'

from swift.llm import ModelType, InferArguments, infer_main
infer_args = InferArguments(model_type=ModelType.qwen2_7b_instruct, max_model_len=2048)
infer_main(infer_args)

提示qwen2_7b不存在，尝试使用qwen2_5还是报错说找不到，
请问该怎么解决

展开
收起
1435917286659243 2025-05-08 15:30:54 363 分享 版权
0 条回答
写回答
取消 提交回答
相关问答
大模型Lora微调的疑问
82
0
0
qwen模型微调上传数据集时，如何书写数据集的本地路径？
53
0
0
qwen-long微调如何上传自己的数据集？
416
1
0
关于qwen2-vl微调最佳实践
624
1
0
小白求助，跟着大模型微调教程做不太明白
926
1
0
ModelScope中，Qwen2微调的文档有吗？
167
1
0
ModelScope有没有对各种大模型使用各种微调方法所需要显存的统计？
105
1
0
百练支持qwen1.5微调吗？
50
1
0
阿里云百炼的Qwen2能做增量微调么？
93
1
0
单模态和多模态地址使用微调后的模型预测得到的结果与原生的不一致，ModelScope问题什么原因？
57
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • 身份证二要素核验接口调用指南 —— Python 示例
  • 淘宝天猫店铺订单列表、订单详情、订单物流 API 接口全攻略
  • Python与MongoDB的亲密接触：从入门到实战的代码指南
  • MyEMS开源能源管理系统核心代码解读009
  • 多线程爬虫优化：快速爬取并写入CSV

    • 热门讨论

    热门文章

  • dataset的版本问题导致与modelscope不兼容
  • ModelScope中，模型下载默认路径在哪个路径？
  • com/action/joingroup?code=v1是什么意思
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • 怎么使用vllm部署最新的qwen3的mbedding 和reranker模型呢
  • modelscope上跑报错，提示要pip install ttsfrd，搞不定
  • ModelScope下载速度慢怎么解决？
  • 现在的大模型可以阅读一本书长度的文本吗？
  • 关于 Windows平台上 ttsfrd 库的问题。
    • 展开全部
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • 基于Qwen3的Embedding和Rerank模型系列，开源！
  • 实战 | Qwen2.5-VL模型目标检测（Grounding）任务领域微调教程
  • 实战 | Qwen3大模型微调入门实战（完整代码）
  • 4G手机内存玩转Qwen2.5-Omni？MNN全面支持Qwen2.5-Omni与Qwen3！
  • Open Avatar Chat：阿里开源实时数字人对话系统，让AI对话实现2.2秒低延迟交互
  • FilmAgent：多智能体共同协作制作电影，哈工大联合清华推出 AI 驱动的自动化电影制作工具
  • 面壁小钢炮MiniCPM 4.0开源，端侧推理常规提速5倍！
  • FireCrawl：开源 AI 网络爬虫工具，自动爬取网站及子页面内容，预处理为结构化数据
  • multi-agent：多角色Agent协同合作，高效完成复杂任务
    • 展开全部
    还有其他疑问?
    咨询AI助理