AI 助理
备案控制台登录注册
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr的paraformer推理的显存是有什么决定的，为啥会不太稳定？

modelscope-funasr的paraformer推理的显存是有什么决定的，为啥会不太稳定？lQLPKdzWxviyp-fNAajNBQiwSEV3Ugwd1NkGpYWTpB8rAA_1288_424.png
如上图所示，平均使用7GB显存的服务有时候会飙到12G

展开
收起
三分钟热度的鱼 2024-08-21 19:59:17 96 发布于安徽 分享
分享
 版权
举报
1 条回答
写回答
取消 提交回答
相关问答
modelscope-funasr的热词是只在推理阶段做吗？
64
0
0
ModelScope 报显存不够如下图怎么解决？
138
1
0
在modelscope-funasr用的paraformer的一个语音识别模型，怎么加上热词？
204
0
0
modelscope-funasr的paraformer热词版本配置是不是不支持添加权重？
118
0
0
modelscope-funasr使用离线这个推理示例音频的时候，报了错误，是为什么？
84
1
0
在modelscope-funasr当音频文件超过一个小时后，显存溢出怎么解决？
134
1
0
ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？
117
1
0
ModelScope有没有对各种大模型使用各种微调方法所需要显存的统计？
84
1
0
modelscope-funasr的SenseVoiceSmall推理生成的图标怎么取消啊？
89
1
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？
81
0
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • LongPort MCP：证券业首个券商MCP，AI赋能智能投资新时代，散户也能玩转机构级交易
  • Cooragent：清华 LeapLab 开源 AI Agent 协作框架，一句话召唤AI军团！
  • 阿里通义开源新一代混合推理模型 Qwen3：创新双模式推理，支持"思考模式"和"非思考模式"
  • 这个AI把arXiv变成代码工厂，快速复现顶会算法！Paper2Code：AI论文自动转代码神器，多智能体框架颠覆科研复现
  • 小米7B参数推理大模型首次开源！Xiaomi MiMo：数学代码双杀，超越32B巨头

    • 热门讨论

    热门文章

  • 我很好奇为什么现在大语言模型为什么没采用扩充生成策略呢，而是通过上一个token来预测下一个toke
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • gpt3,加载数据时，MsDataset.load报错
  • 练的pth模型文件，怎么转成bin文件？
  • modelscope-funasr实时设别，mode:2pass 还是online，2个有啥不一样？
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • modelscope-funasr有没有开源的语音唤醒，自定义唤醒？
  • modelscope-funasr在安卓平台可以集成sense voice吗？
  • modelscope-funasr有输出字幕文件srt的功能吗？
  • modelscope-funasr实时ASR的微调该怎么操作？
    • 展开全部
  • 科研论文翻译神器！BabelDOC：开源AI工具让PDF论文秒变双语对照，公式图表全保留
  • 小米7B参数推理大模型首次开源！Xiaomi MiMo：数学代码双杀，超越32B巨头
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • 阿里通义开源新一代混合推理模型 Qwen3：创新双模式推理，支持"思考模式"和"非思考模式"
  • 还在想开题报告？SurveyGO卷姬：清华开源学术论文AI写作神器，一键生成文献综述
  • 这个AI把arXiv变成代码工厂，快速复现顶会算法！Paper2Code：AI论文自动转代码神器，多智能体框架颠覆科研复现
  • FireCrawl：开源 AI 网络爬虫工具，自动爬取网站及子页面内容，预处理为结构化数据
  • SPO：如何优化提示词？大模型最懂如何优化自己！开源自监督提示词优化工具，让AI自主优化提示词
  • FastAPI开发者福音！FastAPI-MCP：将FastAPI秒变MCP服务器的开源神器，无需配置自动转换！
  • 全球首款开源通用型AI智能体上线！Suna：自动处理Excel/爬数据/写报告等复杂任务一句话搞定
    • 展开全部
    还有其他疑问?
    咨询AI助理
    AI助理

    你好，我是AI助理

    可以解答问题、推荐解决方案等