modelscope-funasr这个现象是正常的吗？
modelscope-funasr这个现象是正常的吗？基于paraformer large预训练模型训练fp16版本，deepspeed方式会报错，ddp方式训完后，模型大小只减少了几十兆，大部分层还是fp32。
展开
收起
1
条回答
写回答
写回答
-
北京阿里云ACE会长检查所使用的modelscope-funasr及其依赖库版本，考虑更新至最新版本。
查阅项目GitHub页面的Issue区域，看是否有其他用户报告了类似问题及可能的解决方案。
FP16（半精度浮点数）训练旨在减少内存占用和加速计算，但模型大小的减少主要体现在训练过程中的内存占用上，而非最终保存模型的大小。DDP训练后模型大小仅减少几十兆可能是因为并非所有部分都能从FP32转换为FP16，特别是某些操作或层可能因兼容性或精度需求仍保持在FP32格式
2024-09-02 09:20:32赞同 275 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的FunClip怎么安装的？
2376
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
1257
关于“[WinError 183] 当文件已存在时，无法创建该文件。” 问题。
75
练的pth模型文件，怎么转成bin文件？
1006
modelscope-funasr有说话人分离功能吗？
306
如何下载llama模型到本地？
2930
modelscope-funasr有没有开源的语音唤醒，自定义唤醒？
474
无法从tokenizer.model解析解析ModelProto
417
modelscope-funasr的python websocket怎么实现多用户并发啊？
106
modelscope-funasr怎么使用 gpu 加速啊？
544
展开全部
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
2294
Kimi 上线视觉思考模型，K1 系列强化学习模型正式开放，无需借助外部 OCR 处理图像与文本进行思考并回答
102
ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
52
DeepSeek-V2.5-1210 在线开放使用！支持联网搜索，在各大领域的表现得到全面提升
56
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
1493
FineWeb 2：开源的多语言预训练数据集，覆盖超过 1000 种语言
38
EXAONE 3.5：LG 推出的开源 AI 模型，采用 RAG 和多步推理能力降低模型的幻觉问题
47
Multimodal Live API：谷歌推出新的 AI 接口，支持多模态交互和低延迟实时互动
34
Promptic：轻量级 LLM 应用开发框架，提供完善的底层功能，使开发者更专注于构建上层功能
32
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
1034
展开全部
