开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

modelscope-funasr阿里云16核32GB服务器上,online模型10个QPS正常么?

modelscope-funasr阿里云16核32GB的服务器上,68M的小模型,online模型10个QPS正常么?0dc4f6161f5a88d9d5592283d58acf98.png

展开
收起
三分钟热度的鱼 2024-03-13 20:11:03 69 0
1 条回答
写回答
取消 提交回答
  • online的哈,压测,你需要控制发包速度,来模拟音频流,不能像离线文件转写那样直接发包。例如,每次发包60ms,那么每发送一次,需要sleep(60ms),再发下一个60ms的音频。此回答整理自钉群“modelscope-funasr社区交流”

    2024-03-13 21:06:43
    赞同 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
ModelScope助力语音AI模型创新与应用 立即下载
冬季实战营第一期:从零到一上手玩转云服务器 立即下载
ECS全知道(下) 镜像与快照+块存储、安全、网运维与监控 立即下载