AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

使用fp16半精度进行微调时，为啥 loss直接就为nan

使用fp16半精度进行微调时，为啥 loss直接就为nan

图片.png

展开
收起
GPT-3预训练生成模型-中文-2.7B
萧瑟的味道 2023-03-14 19:58:15 832 分享 版权
1 条回答
写回答
取消 提交回答
  • 木子李炼丹术

    您好，您使用的是哪个模型呢

    2023-03-22 22:42:16
    赞同 展开评论
相关问答
自然语言处理
OSS的endpoint如何查看
31779
3
0
this xml file does not appear to have any style in
38399
9
0
如果购买了域名，一定要备案才能用吗
39737
36
0
有哪些值得收藏的五个种子搜索引擎&磁力搜索引擎？
98775
16
0
支付宝H5 下载的时候，提示 【请确保该下载文件来源安全,如需浏览,请长按网址复制后使用浏览器访问】
240185
10
0
com/action/joingroup?code=v1是什么意思
210481
20
0
java的官网网址是什么
35607
23
0
企业邮箱免费版
10060
4
0
配置了安全组规则，端口还是无法访问
28793
21
0
互联网信息服务增值电信业务经营许可证申请资料
7207
2
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • 中文法律AI大模型！LaWGPT 一键生成法律文书，司法考试通过率提升50%
  • autoMate：无需视觉模型！用DeepSeek-V3/R1就能实现自动化操作电脑，支持任何可视化界面
  • Nanobrowser：开源版OpenAI Operator！AI自动操控浏览器，复杂网页任务一键搞定
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理

    • 热门讨论

    热门文章

  • modelscope-funasr==1.0.5依赖的torch版本是多少？
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • modelscope-funasr的python websocket怎么实现多用户并发啊？
  • open webui的RAG功能根本用不起来
  • modelscope-funasr在安卓平台可以集成sense voice吗？
  • 微调大模型的tokenize_function编写求教
  • 练的pth模型文件，怎么转成bin文件？
  • 请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
  • modelscope-funasr热词怎么设置才有效？
    • 展开全部
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • OWL：告别繁琐任务！开源多智能体系统实现自动化协作，效率提升10倍
  • 阿里通义开源推理模型新王者！QwQ-32B：性能直逼671B的DeepSeek-R1
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • 无需邀请码！MetaGPT 开源AI助手 OpenManus，实时反馈+模块化设计，开发者福音
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • 手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型，创建个性化 AI 助手
  • 中文法律AI大模型！LaWGPT 一键生成法律文书，司法考试通过率提升50%
  • autoMate：无需视觉模型！用DeepSeek-V3/R1就能实现自动化操作电脑，支持任何可视化界面
    • 展开全部
    还有其他疑问?
    咨询AI助理