AI 助理
备案控制台登录注册
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr阿里云16核32GB服务器上，online模型10个QPS正常么？

modelscope-funasr阿里云16核32GB的服务器上，68M的小模型，online模型10个QPS正常么？0dc4f6161f5a88d9d5592283d58acf98.png

展开
收起
三分钟热度的鱼 2024-03-13 20:11:03 81 发布于安徽 分享
分享
 版权
举报
1 条回答
写回答
取消 提交回答
  • 圆不溜秋的小猫猫

    online的哈，压测，你需要控制发包速度，来模拟音频流，不能像离线文件转写那样直接发包。例如，每次发包60ms，那么每发送一次，需要sleep(60ms)，再发下一个60ms的音频。此回答整理自钉群“modelscope-funasr社区交流”

    2024-03-13 21:06:43 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
相关问答
在4卡4090（24G）服务器上利用modelscope离线部署Qwen2vl-Flux时报错
114
1
0
modelscope-funasr的online流式实时听写，没有标点符号，需要如何设置？
154
0
0
modelscope-funasr服务端docker启的启动没有报错，但连不上服务器，怎么回事？
90
1
0
modelscope-funasr官方有几个一键脚本 里面online和offline有什么区别？
110
1
0
为什么在云服务器和本地能直接用127.0.0.1，在modelscope需要环境变量呢？
53
1
0
ModelScope在windows服务器上训练的时候出现这个错误怎么办？执行的时候报错了
72
1
0
在modelscope-funasr中想问下只跑cpu，本地录音文件转文本，需要什么配置的服务器呀？
63
0
0
服务器断网状态下可以使用 modelscope 吗？
53
1
0
请问ModelScope自己学习和本地开发的话推荐什么样的服务器配置？
43
0
0
ModelScope中，Windows环境运行成功了，上传linux服务器跑会报这个错？
62
1
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 《自然语言处理架构的隐秘力量：FFN深度揭秘》
  • 《探寻计算图奥秘：动态与静态在自然语言处理中的分野》
  • YT Navigator：AI秒搜YouTube！自然语言直达视频关键帧
  • Crack Coder：在线面试“AI外挂”！编程问题秒出答案，完全绕过屏幕监控，连录屏都抓不到痕迹！
  • Agent TARS：一键让AI托管电脑！字节开源PC端多模态AI助手，无缝集成浏览器与系统操作

    • 热门讨论

    热门文章

  • modelscope-funasr的python websocket怎么实现多用户并发啊？
  • modelscope-funasr用官方docker启动 为什么只能用127.0.0.1链接wss？
  • modelscope-funasr在安卓平台可以集成sense voice吗？
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • modelscope-funasr实时ASR的微调该怎么操作？
  • modelscope-funasr中，funasr把语音识别结果返回给Java后端Java要传哪些？
  • modelscope-funasr怎么使用 gpu 加速啊？
  • 如何下载llama模型到本地？
  • modelscope-funasr高并发实时语音识别，36核，128g，拖40路很吃力有什么方案吗？
    • 展开全部
  • Agent TARS：一键让AI托管电脑！字节开源PC端多模态AI助手，无缝集成浏览器与系统操作
  • Manus再遭复刻！开源多智能体协作工具，实时查看每个AI员工的"脑回路"
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • Botgroup.chat：超有趣的开源 AI 聊天室！多个 AI 在线互怼，一键搭建你的专属 AI 社群
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • Cursor 上线最新 AI 模型 Claude 3.7 Max：200k上下文+200次工具调用！史上最强代码助手硬核上线
  • Anus：公开整活！完全用 Manus 复刻 Manus 功能的开源 AI 智能体项目
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
    • 展开全部
    还有其他疑问?
    咨询AI助理
    AI助理

    你好，我是AI助理

    可以解答问题、推荐解决方案等