ModelScope中,我想找个能跑在鲲鹏 上的模型,应该选哪个?

ModelScope中,lQLPJwBVV0Bx4DfNA3LNBPawxrrb1qvt5mgFReAmxACgAA_1270_882.png
我想找个能跑在鲲鹏 上的模型,应该选哪个鲲鹏用的是ARM的CPU,我想试试信创环境,ARM CPU加上银河麒麟系统

展开
收起
多麻辣哦 2023-11-22 20:32:48 129 分享 版权
2 条回答
写回答
取消 提交回答
  • ModelScope 是一个开源的模型即服务(MaaS)平台,提供了多种预训练模型供用户使用。如果您想在鲲鹏处理器上运行模型,可以选择支持鲲鹏处理器的深度学习框架,例如 MindSpore。

    在 ModelScope 中,您可以选择使用 MindSpore 框架提供的预训练模型。这些模型可以在鲲鹏处理器上运行,并且已经针对鲲鹏处理器进行了优化。您可以在 ModelScope 的官方网站上找到更多关于 MindSpore 模型的信息和使用方法。

    2023-11-29 10:58:42
    赞同 展开评论
  • 您试一下,
    https://modelscope.cn/models/Xorbits/chatglm3-ggml/summary
    或者llama.cpp、chatglm.cpp、qwen.cpp。前面有开发者用过npu加速,和您的情况不太一样。——此回答整理自钉群:魔搭ModelScope开发者联盟群 ①

    2023-11-22 21:33:07
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理