AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr中punc_model 推理怎么这么慢呢？

modelscope-funasr中punc_model 推理怎么这么慢呢 20s左右，所有版本都是最新的？image.png
punc_ct-transformer_cn-en-common-vocab471067-large
v2.0.4

展开
收起
真的很搞笑 2024-02-08 11:41:11 163 分享 版权
1 条回答
写回答
取消 提交回答
  • 芯在这

    推理多个取平均 ，此回答整理自钉群“modelscope-funasr社区交流”

    2024-02-08 12:22:26
    赞同 展开评论
相关问答
在modelscope-funasr中推理的输出结果准确率要比直接推理的低，是参数有问题吗？
153
1
0
modelscope-funasr的SenseVoiceSmall推理生成的图标怎么取消啊？
226
1
0
在modelscope-funasr同样的数据类型 ，提升的是推理速度吧，识别准确率也会有所提升吗？
85
0
0
modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？
133
0
0
ModelScope未量化模型推理很快，双卡推理也很快，只有4卡非常慢，怎么解决？
114
0
0
ModelScope进行推理的时候，进程还是使用第0块显卡， device参数没有生效，怎么解决？
127
1
0
modelscope-funasr的demo中直接推理和funasr推理有什么区别吗？
126
1
0
两个线程，一个线程推理模型a，另一个线程同时推理modelscope模型b，为啥回报错 ？
86
1
0
ModelScope中，用fastchat推理13b模型2张卡比一张卡还要慢，提供点解决思路可以吗？
70
1
0
ModelScope中notebook上推理生成的视频文件，怎么下载到本地查看？
81
1
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 《10分钟开发电商页！CodeBuddy自然语言转代码实测：程序员效率革命》
  • Java 大视界 -- Java 大数据机器学习模型在自然语言生成中的可控性研究与应用（229）
  • 从“写SQL”到“聊数据”：NL2SQL如何用自然语言解锁数据库？
  • 蚂蚁百宝箱联手深铁打造全国首个地铁 AI 智能体「深铁宝」：你的全能城市向导来啦~
  • MajorRAG 概述（1/3）

    • 热门讨论

    热门文章

  • modelscope-funasr的SenseVoiceLarge模型在哪里啊？
  • 练的pth模型文件，怎么转成bin文件？
  • modelscope-funasr 热词如何设置？
  • embedding模型部署调用出现接口调用不一致
  • modelscope-funasr如何释放显存呢？
  • modelscope-funasr实时设别，mode:2pass 还是online，2个有啥不一样？
  • modelscope-funasr的asr，itn，标点这几个模块串起来的例子有吗，流式运行？
  • modelscope-funasr实时ASR的微调该怎么操作？
  • 请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
  • modelscope-funasr有说话人分离功能吗？
    • 展开全部
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • KTransformers：告别天价显卡！国产框架让单卡24G显存跑DeepSeek-R1 671B大模型：推理速度飙升28倍
  • 告别Hugging Face模型下载难题：掌握高效下载策略，畅享无缝开发体验
  • SPO：如何优化提示词？大模型最懂如何优化自己！开源自监督提示词优化工具，让AI自主优化提示词
  • RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
  • 手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型，创建个性化 AI 助手
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • FastAPI开发者福音！FastAPI-MCP：将FastAPI秒变MCP服务器的开源神器，无需配置自动转换！
  • Qlib：华尔街颤抖！微软开源金融AI量化投资神器，助力智能投研
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
    • 展开全部
    还有其他疑问?
    咨询AI助理