funasr + torchrun 多卡分布式推理的时候，有人遇到每张卡加载模型的速度差异很大吗？
funasr + torchrun 多卡分布式推理的时候，有人遇到每张卡加载模型的速度差异很大吗？比如 librispeech，均分到8张卡，7张卡都推理结束了，第8张卡的模型还没加载上去？推理的模型是 sensevoice
展开
收起
1
条回答
写回答
写回答
-
我觉着你的问题与funasr无关，比如，是不是你包的外围逻辑里面，没加dist.barrier()，可以去阅读一下，torchrun ddp文档。 此回答整理自钉群“modelscope-funasr社区交流”
2024-07-11 08:58:18赞同 12 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的FunClip怎么安装的？
2436
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
1273
modelscope-funasr有说话人分离功能吗？
322
modelscope-funasr在安卓平台可以集成sense voice吗？
232
练的pth模型文件，怎么转成bin文件？
1016
gpt3,加载数据时，MsDataset.load报错
1275
modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
485
通过pip install megatron-lm后报错误
1514
怎么抽取GPT-3 预训练模型的emb向量？
1632
modelscope-funasr的python websocket怎么实现多用户并发啊？
113
展开全部
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
2368
Kimi 上线视觉思考模型，K1 系列强化学习模型正式开放，无需借助外部 OCR 处理图像与文本进行思考并回答
125
OpenAI 12天发布会内容全纪录！一文快速回顾获知亮点信息，原文附发布会中文字幕视频
109
Gemini 2.0 Flash Thinking：谷歌推出实验性多模态推理模型，在快速生成的同时展示详细的思考过程
55
Multimodal Live API：谷歌推出新的 AI 接口，支持多模态交互和低延迟实时互动
54
GitHub 推出免费版 GitHub Copilot：提供每月2,000次代码补全和50条聊天消息，支持多种主流大模型
37
ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
74
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
1140
2024年6月118篇代码大模型论文最全整理
817
DeepSeek-V2.5-1210 在线开放使用！支持联网搜索，在各大领域的表现得到全面提升
73
展开全部
