开发者社区 > ModelScope模型即服务 > 正文

ModelScope中这个可以在不联网的环境训练吗?

ModelScope中这个可以在不联网的环境训练吗?9a9f9844398c91fbbc12175fd15e885b.jpg我想放在封闭的环境中,可以吗?

展开
收起
小小鹿鹿鹿 2024-03-05 15:16:30 106 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    ModelScope中的模型可以离线部署和使用,但前提是需要在有网络的环境下先将模型下载到本地

    在ModelScope平台上,您可以使用预训练模型进行推理,但是这些操作通常需要网络连接来访问和下载模型。一旦模型被下载到本地计算机或服务器上,就可以在没有网络连接的环境中进行部署和使用。以下是离线使用的步骤:

    1. 模型下载:在有网络的情况下,您需要在ModelScope平台上找到所需的模型,并将其下载到本地存储设备中。
    2. 环境配置:确保您的本地环境满足模型运行的基本要求,包括硬件配置和软件依赖。
    3. 模型部署:使用ModelScope提供的预置镜像或其他部署工具,将下载的模型部署到本地环境中。在此过程中,您可能需要配置模型版本、部署地域、卡型、显存等信息。
    4. 离线使用:完成部署后,您就可以在不联网的环境中使用模型进行推理或其他操作了。

    需要注意的是,虽然ModelScope支持模型的离线部署,但是模型的训练过程通常需要在有网络的环境中进行,因为训练涉及到大量的数据处理和计算资源,这些资源往往位于云端或数据中心。此外,如果您需要对模型进行微调(fine-tuning),也可能需要网络连接以访问额外的数据集或计算资源。

    总结来说,ModelScope的模型可以在离线环境中使用,但是需要先在有网络的环境中下载和准备相应的模型文件。部署后的模型可以在本地计算机或服务器上运行,无需网络连接。但是,对于模型的训练和微调,通常还是需要网络连接来完成。

    2024-03-05 21:14:43
    赞同 展开评论 打赏
  • 可以。--model_id_or_path: 表示模型在ModelScope Hub中的model_id或者本地路径, 默认为None. 如果传入的model_id_or_path已经被注册, 则会根据model_id_or_path推断出model_type. 如果未被注册, 则需要同时指定model_type, e.g. --model_type --model_id_or_path ,参考
    https://github.com/modelscope/swift/blob/main/docs/source/LLM/%E5%91%BD%E4%BB%A4%E8%A1%8C%E5%8F%82%E6%95%B0.md
    。如果你需要断网进行训练, 请使用--model_id_or_path 和设置--check_model_is_latest false. 具体参数含义请查看命令行参数.。此回答来自钉群魔搭ModelScope开发者联盟群 ①。

    2024-03-05 16:42:09
    赞同 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载