开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

modelscope-funasr微调得需要多大硬盘?

modelscope-funasr微调得需要多大硬盘,我用的notebook,没微调前剩余85G空间,微调失败原因目前是硬盘100%

展开
收起
嘟嘟嘟嘟嘟嘟 2024-05-09 08:40:34 86 0
2 条回答
写回答
取消 提交回答
  • 你一边训练一边删除ckpt就好了,设置最大保留数。具体可以看下文档:examples/README.md。此回答整理自钉群“modelscope-funasr社区交流”

    2024-05-09 16:21:48
    赞同 1 展开评论 打赏
  • 某政企事业单位运维工程师,主要从事系统运维及大数据开发工作,多次获得阿里云、华为云、腾讯云征文比赛一二等奖;CTF选手,白帽,全国交通行业网络安全大赛二等奖,全国数信杯数据安全大赛银奖,手握多张EDU、CNVD、CNNVD证书

    微调过程可能需要较大的硬盘空间,特别是当模型尺寸大、数据集体积也大时。您当前的Notebook仅剩85GB空间,并且微调过程中硬盘已满至100%,这表明微调过程中所需的临时文件、检查点保存、日志记录等消耗了大量空间。

    考虑到微调失败是由于硬盘空间不足,建议至少保证有150GB以上的额外空间用于微调过程,这样能更稳妥地应对模型、数据及中间文件的存储需求。

    Llama3-8B大模型微调训练_人工智能平台 PAI(PAI) 步骤一、下载模型

    ModelScope 这个提示 是因为不够吗?

    2024-05-09 09:20:56
    赞同 1 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载