开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

modelscope-funasr这种现象正常吗?gpu版怎么支持高效的多并发呢?

我在测试gpu版文件转写软件包的时候,一条70分钟的音频耗时是77s,但是多个并发下,这条音频的识别耗时长达325.068139s,modelscope-funasr这种现象正常吗?gpu版怎么支持高效的多并发呢?

展开
收起
三分钟热度的鱼 2024-07-31 21:37:45 52 0
1 条回答
写回答
取消 提交回答
  • 信息有限,跟你的机器资源强相关,无法判断是否正常,可以参考提供的GPU多路测试结果,单并发rtf 0.0048,多并发时每路的rtf为0.008
    此回答整理自钉群“modelscope-funasr社区交流”

    2024-07-31 23:05:55
    赞同 8 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
DeepStream: GPU加速海量视频数据智能处理 立即下载
阿里巴巴高性能GPU架构与应用 立即下载
GPU在超大规模深度学习中的发展和应用 立即下载