AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

ModelScope可以使用CPU微调和推理LLM吗 有代码示例吗？

ModelScope可以使用CPU微调和推理LLM吗 有代码示例吗？

展开
收起
真的很搞笑 2024-05-08 08:10:48 64 发布于黑龙江 分享
分享
 版权
举报
1 条回答
写回答
取消 提交回答
  • 芯在这

    不建议使用cpu，cpu很慢 ，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-05-08 09:30:03 举报
    赞同 3 评论

    评论

    全部评论 (0)

    登录后可评论
相关问答
ModelScope如何用英特尔显卡进行推理，目前pytorch已经支持，求大神帮帮忙。
48
1
0
微调llama3时报modelscope - ERROR错，能帮忙看一下什么问题吗
98
1
0
通过modelscope环境搭建LLama Factory使用 WebUI微调训练，访问页面报错
171
1
0
modelscope-funasr在windows(cpu)上跑要多大的内存?
100
0
0
ModelScope为啥使用notebook的cpu版本，finetune.sh脚本去训练一直失败？
61
1
0
为什么我微调modelscope大模型时报错，让我升级内核啊？能升级吗？
85
1
0
modelscope CPU跑chatglm有什么加速的方法嘛？
63
1
0
ModelScope 按照书上的示例写了一段代码，但是报了这个错 怎么解决？
89
1
0
modelscope-funasr这里怎么写死cpu？
90
1
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？
75
0
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

  • ModelScope中，模型下载默认路径在哪个路径？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • 无法导入 modelscope，已经pip install了
  • 关于 Windows平台上 ttsfrd 库的问题。
  • 关于wan2.1显存占用的问题
  • ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？
  • modelscope上跑报错，提示要pip install ttsfrd，搞不定
  • llama factory微调报错CUDA未被检测！
    • 展开全部
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • Heygem：开源数字人克隆神器！1秒视频生成4K超高清AI形象，1080Ti显卡也能轻松跑
  • vanna+qwen实现私有模型的SQL转换
  • WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
  • CosyVoice 2.0：阿里开源升级版语音生成大模型，支持多语言和跨语言语音合成，提升发音和音色等的准确性
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • 本地部署DeepSeek模型
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
    • 展开全部
    还有其他疑问?
    咨询AI助理