ModelScope问题之训练报错设置参数如何解决

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
简介: ModelScope训练是指在ModelScope平台上对机器学习模型进行训练的活动;本合集将介绍ModelScope训练流程、模型优化技巧和训练过程中的常见问题解决方法。

问题一:ModelScope训练出来的模型预测,修改damoyolo.py里的model.name和Zero


ModelScope训练出来的模型预测,修改damoyolo.py里的model.name和ZeroHead.classes这两个参数后还需要修改其他的吗?目前我用一个小样本dog1训练后,识别出的标签为什么是person,是不是有些地方需要修改创业?


参考回答:

还需要修改damoyolo.py中的model字段下的coco_label_map.pkl文件,这里面存储了类别到index的映射,您需要根据您的数据集映射,手动修改该文件。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/497269?spm=a2c6h.14164896.0.0.4f7a1edfxgD65O


问题二:请问 modelscope中,这个模型是用大约什么量级的数据训练的呢


https://www.modelscope.cn/models/rgtjf1/multi-modal_gridvlp_classification_chinese-base-ecom-cate-large/summary

请问 modelscope中,这个模型是用大约什么量级的数据训练的呢"


参考回答:

千万级别。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/528114?spm=a2c6h.14164896.0.0.4f7a1edfxgD65O


问题三:请问ModelScope中,有做过大模型表单训练的吗?表单约束条件是怎么做的?


请问ModelScope中,有做过大模型表单训练的吗?表单约束条件是怎么做的?


参考回答:

在ModelScope中,大模型表单训练是指使用预训练语言模型(如GPT)来生成符合特定约束条件的表单数据。这种方法可以用于生成结构化的、符合特定规则的文本数据,例如填充表单、生成问卷答案等。

在进行大模型表单训练时,通常会使用以下步骤来定义和应用约束条件:

  1. 确定表单结构:首先,确定要生成的表单的结构和字段。这包括决定每个字段的名称、类型(文本、数字、日期等)、是否必填等。
  2. 定义约束条件:对于每个字段,定义相应的约束条件,以确保生成的表单数据符合预期的规则。例如,限制手机号码只能包含数字、电子邮件字段必须符合电子邮件格式等。
  3. 利用预训练模型生成数据:使用预训练语言模型(如GPT)生成表单数据。您可以提供一些初始文本作为输入(例如表单标题或前几个字段的值),并请求模型生成剩余的字段值。在生成过程中,模型将受到您提供的约束条件的影响,以产生符合这些条件的输出数据。
  4. 过滤和验证:生成的表单数据可能需要经过进一步的过滤和验证,以确保其符合约束条件和期望的规则。例如,您可以编写代码来验证日期字段是否符合指定的格式、数字字段是否在特定范围内等。

需要注意的是,大模型表单训练涉及到自动生成数据,并且对生成的数据进行约束和验证是一个复杂的任务。这可能需要结合特定的编程框架或开发工具,以便有效地应用约束条件和处理生成的数据。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/528105?spm=a2c6h.14164896.0.0.4f7a1edfxgD65O


问题四:想问下ModelScope训练的话 这个报错要怎么设置参数呢? 在PAI平台


GPT3Trainer: GPT3ForTextGeneration: CUDA out of memory. Tried to allocate 100.00 MiB (GPU 0; 22.20 GiB total capacity; 5.90 GiB already allocated; 70.12 MiB free; 5.90 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF 想问下ModelScope训练的话 这个报错要怎么设置参数呢? 在PAI平台的JupyterLab 上面运行的


参考回答:

尝试一下cfg.train.dataloader.batch_size_per_gpu数值调小,或者用多卡进行训练


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/495163?spm=a2c6h.14164896.0.0.4f7a1edfxgD65O


问题五:GPT-3 2.7B,ModelScope训练2周时间,大概需要多少张卡V100?


GPT-3 2.7B,ModelScope训练2周时间,大概需要多少张卡V100?


参考回答:

训练模型所需的GPU数量取决于多种因素,例如模型大小、训练数据大小、批量大小、训练时的超参数等。对于GPT-3 2.7B这样的大型模型,训练时间和GPU数量会成正比关系,通常需要数十张V100甚至更多的GPU来训练。由于ModelScope的具体实现和硬件资源的不同,具体需要的GPU数量可能会有所不同。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/482155?spm=a2c6h.14164896.0.0.4f7a1edfxgD65O

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
目录
相关文章
|
6月前
|
自然语言处理
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
160 1
|
6月前
|
文字识别 并行计算 语音技术
ModelScope问题之下载模型文件报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
805 3
|
6月前
|
开发框架 API 决策智能
ModelScope-Agent框架再升级!新增一键配置多人聊天,配套开源多智能体数据集和训练
ModelScope-Agent是魔搭社区推出的适配开源大语言模型(LLM)的AI Agent(智能体)开发框架,借助ModelScope-Agent,所有开发者都可基于开源 LLM 搭建属于自己的智能体应用。在最新升级完Assistant API和Tool APIs之后,我们又迎来了多智能体聊天室的升级,通过几分钟快速配置即可搭建一个全新的聊天室。
|
6月前
|
并行计算 计算机视觉 异构计算
ModelScope问题之官方模型demo运行时候报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
199 3
|
6月前
|
编解码 自然语言处理 API
ModelScope问题之翻译模型给的例子报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
105 2
|
6月前
|
缓存 自然语言处理 大数据
ModelScope问题之运行模型报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
589 0
|
6月前
|
缓存 自然语言处理 监控
ModelScope评估二次训练模型报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
422 0
|
6月前
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
212 2
|
6月前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
6月前
|
数据采集 自然语言处理 搜索推荐
ModelScope问题之模型encoder配置报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
236 0

热门文章

最新文章