ModelScope中webui参数有哪些需要特别设置的吗?

ModelScope中webui参数有哪些需要特别设置的吗?

展开
收起
小小爱吃香菜 2024-03-26 22:38:01 105 分享 版权
2 条回答
写回答
取消 提交回答
  • "这个模型pipeline forward用了trainer,line 80 https://modelscope.cn/models/iic/nlp_deberta_rex-uninlu_chinese-base/file/view/master/ms_wrapper.py?status=1指定其他卡,还是在0卡运行的原因如下: f19cc36e564109d2a5248f759e0b287b.png
    比较方便的处理方式就是您用的通过CUDA_VISIBLE_DEVICES来指定gpu。代码中设置的话,import osos.environ['CUDA_VISIBLE_DEVICES']='2' 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"

    2024-03-27 12:25:20
    赞同 展开评论
  • 阿里云大降价~

    在使用ModelScope的Web UI时,有几个参数需要特别注意。具体如下:

    1. 环境变量设置:在启动Web UI之前,需要设置环境变量USE_MODELSCOPE_HUB=1,以确保框架能够使用ModelScope在线资源。
    2. 硬件要求:确保您的GPU设备兼容,如A10, 3090, V100, A100等。
    3. 安装依赖:您可能需要安装ms-swiftdeepspeed等依赖包,以便使用某些特定功能。
    4. 微调参数配置:在LLama Factory中,您可以配置微调的参数,如学习率、批次大小、训练轮数等,这些将直接影响模型的微调效果。
    5. 数据上传与加载:准备好的训练数据和验证数据需要上传到LLama Factory中,并配置数据加载的方式。
    6. 模型选择:在平台上选择合适的LLama系列模型作为基础模型进行微调。
    7. TaskDataset配置:如果数据集需要在特定任务或特定模型下进行特殊处理,需要注意TaskDataset的配置。

    总的来说,在使用ModelScope的Web UI时,需要注意环境变量的设置、硬件要求、安装依赖、微调参数配置、数据上传与加载、模型选择以及TaskDataset配置等方面的问题。

    2024-03-27 08:48:19
    赞同 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

还有其他疑问?
咨询AI助理