AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

ModelScope本地部署了，调用以后cpu会很高，怎么解决？

读光-文字识别-行识别模型-中英-手写文本领域，ModelScope本地部署了，调用以后cpu会很高，怎么解决？

展开
收起
小小爱吃香菜 2024-06-19 08:46:34 62 分享 版权
2 条回答
写回答
取消 提交回答
  • 为了利利

    有gpu显卡的，推理快一些。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-06-19 12:36:44
    赞同 1 展开评论
  • 1941623231718325

    你这要用GPU吧，CPU占用率是很高的。答题不易请采纳

    2024-06-19 10:22:59
    赞同 1 展开评论
相关问答
modelscope-funasr有没有配置项可以设置cpu大小？
184
13
0
modelscope-funasr按照官方例子部署后，无法连接wss，啥原因？
181
1
0
modelscope-funasr在windows(cpu)上跑要多大的内存?
96
0
0
modelscope-funasr的语音情感识别，如何离线部署？
73
0
0
想请问下ModelScope里Vllm部署了qwen1.5-32B之后，它无限输出日志 怎么解决？
217
0
0
ModelScope为啥使用notebook的cpu版本，finetune.sh脚本去训练一直失败？
57
1
0
modelscope CPU跑chatglm有什么加速的方法嘛？
62
1
0
modelscope-funasr这里怎么写死cpu？
89
1
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？
73
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？
70
0
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • 3.4K star！全能PDF处理神器开源！文档转换/OCR识别一键搞定
  • OmniAlign-V：20万高质量多模态数据集开源，让AI模型真正对齐人类偏好
  • 解读 | 金融长上下文基准测试FailSafeQA：解锁金融领域LLM真实的审慎性和容错性
  • SigLIP 2：多语言语义理解、定位和密集特征的视觉语言编码器
  • PP-DocBee：百度飞桨多模态文档解析神器，中文场景SOTA准确率一键提取表格图表

    • 热门讨论

    热门文章

  • modelscope-funasr==1.0.5依赖的torch版本是多少？
  • ModelScope中，模型下载默认路径在哪个路径？
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • 关于wan2.1显存占用的问题
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 无法导入 modelscope，已经pip install了
  • ModelScope下载速度慢怎么解决？
  • llama factory微调报错CUDA未被检测！
    • 展开全部
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • 本地部署DeepSeek模型
  • OWL：告别繁琐任务！开源多智能体系统实现自动化协作，效率提升10倍
  • WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • Heygem：开源数字人克隆神器！1秒视频生成4K超高清AI形象，1080Ti显卡也能轻松跑
  • 深度评测 | 仅用3分钟，百炼调用满血版 Deepseek-r1 API，百万Token免费用，简直不要太爽。
  • WhisperChain：开源 AI 实时语音转文字工具！自动消噪优化文本，效率翻倍
  • 通义万相Wan2.1视频模型开源！视频生成模型新标杆，支持中文字效+高质量视频生成
    • 展开全部
    还有其他疑问?
    咨询AI助理