开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope有没有使用qwen14B 在昇腾npu上跑 训练和推理的?

ModelScope有没有使用qwen14B 在昇腾npu上跑 训练和推理的?

展开
收起
真的很搞笑 2024-01-02 20:13:49 459 0
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    对于您的问题,目前还未有明确的信息表明ModelScope支持使用qwen14B在昇腾npu上进行训练和推理。昇腾npu的驱动安装过程可能会有些复杂,如果遇到问题可能需要花费一些时间来查找解决方案。同时,需要注意的是,Qwen-14B是一款大规模语言模型,使用了超过3万亿Token的数据进行预训练,包括多种类型的数据,如网络文本、专业书籍、代码等。因此,如果要在昇腾npu上运行此模型,可能需要相应的硬件支持和优化调整。建议您可以关注ModelScope社区或者官方文档,获取最新的更新和教程信息。

    2024-01-03 13:39:56
    赞同 展开评论 打赏
  • 对于使用Qwen-14B在昇腾npu上进行训练和推理的问题,具体的实现方案可能需要视您的具体需求和环境情况而定。昇腾npu是华为的AI处理器,用于执行深度学习模型的计算任务。Qwen-14B是一款支持多种语言的高性能开源模型,相比同类模型使用了更多的高质量数据,整体训练数据超过3万亿Token,使得模型具备更强大的推理、认知、规划和记忆能力。

    目前,我们找到了一些相关的操作指南和开源项目,可能会对您有所帮助。例如,"雄哥团队"发布的Qwen-14B本地部署教程,该教程主要针对大模型的本地部署,包括环境安装配置和权重部署量化两个步骤。此外,魔搭ModelScope开源社区推出的SWIFT工具,它是基于PyTorch的轻量级、开箱即用的模型微调、推理框架,能让AI爱好者用自己的消费级显卡就能玩转大模型和AIGC。

    2024-01-03 09:47:28
    赞同 展开评论 打赏
  • 2024-01-02 23:11:55
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载