开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

Modelscope魔搭模型库的模型,理论上都能用CPU推理吗?

问题一:Modelscope魔搭模型库的模型,理论上都能用CPU推理吗?

问题二:为什么snapshot_download下载下的config文件和魔搭上的不一样?

展开
收起
青城山下庄文杰 2023-07-21 20:06:41 267 0
3 条回答
写回答
取消 提交回答
  • 问题一:ModelScope 魔搭模型库的模型理论上都可以在 CPU 上进行推理。大多数模型在 ModelScope 平台上都提供了 CPU 推理支持,这使得用户不需要依赖于 GPU 来运行模型。然而,由于 CPU 的计算资源相对有限,一些较大或计算密集型的模型在 CPU 上进行推理可能会比在 GPU 上慢一些。

    问题二:关于 config 文件的差异,可能是因为 ModelScope 在将模型发布到魔搭模型库时做了一些调整和配置更改。这些调整可能包括与 ModelScope 平台特定功能或要求相关的修改。因此,从 ModelScope 平台下载的 config 文件可能会与原始的魔搭模型库上的文件存在一些差异。

    2023-07-24 13:39:45
    赞同 展开评论 打赏
  • 回答一:有些只支持GPU
    回答二:看下revision-此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-07-24 13:10:43
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    是的,Modelscope魔搭模型库中的模型都可以使用CPU进行推理。实际上,大多数模型都可以在CPU上进行推理,尤其是对于小规模的模型来说,使用CPU进行推理已经足够快速和有效。

    当然,对于一些较大规模的模型,使用CPU进行推理可能会比较慢,并且可能会消耗大量的计算资源。在这种情况下,您可以考虑使用GPU或者专用的加速器来进行推理,以获得更好的性能和效果。

    2023-07-22 09:00:14
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
RDS SQL Server CPU高使用率性能优化 立即下载