modelscope-funasr这种现象正常吗?gpu版怎么支持高效的多并发呢?

我在测试gpu版文件转写软件包的时候,一条70分钟的音频耗时是77s,但是多个并发下,这条音频的识别耗时长达325.068139s,modelscope-funasr这种现象正常吗?gpu版怎么支持高效的多并发呢?

展开
收起
三分钟热度的鱼 2024-07-31 21:37:45 93 分享 版权
1 条回答
写回答
取消 提交回答
  • 信息有限,跟你的机器资源强相关,无法判断是否正常,可以参考提供的GPU多路测试结果,单并发rtf 0.0048,多并发时每路的rtf为0.008
    此回答整理自钉群“modelscope-funasr社区交流”

    2024-07-31 23:05:55
    赞同 8 展开评论

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理