AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

modelscope-funasr用GPU推理，A10和4090在性能上，是不是差很多很多？

modelscope-funasr用GPU推理，A10和4090在性能上，是不是差很多很多？

展开
收起
三分钟热度的鱼 2024-07-31 21:24:08 241 发布于安徽 分享
分享
 版权
举报
1 条回答
写回答
取消 提交回答
  • 圆不溜秋的小猫猫

    我测试过，是有差距，4090快
    此回答整理自钉群“modelscope-funasr社区交流”

    2024-07-31 23:04:01 举报
    赞同 7 评论

    评论

    全部评论 (0)

    登录后可评论
相关问答
modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？
33737
1
0
modelscope-funasr能支持用gpu来做实时转写吗？
58
0
0
ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？
99
1
0
ModelScope中，llama3 推理的时候 ModelType 是什么值？
58
1
0
modelscope-funasr的gpu docker离线转写有dockerfile参考么？
48
0
0
modelscope推理报错 swift infer 是啥问题呢？
90
1
0
modelscope的本地推理为什么会出现图中问题？
38
1
0
modelscope-funasr使用python在A10的卡上部署，和报告有很大差距，为什么？
52
1
0
modelscope-funasr这个1200+的测试结果，是不是用了2张A10的显卡呀？
56
1
0
modelscope-funasr的GPU部署使用2060显卡性能与Cpu相比性能提升多少？
86
0
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 国产NAS也支持本地部署DeepSeek了：极空间Z423上手
  • 阶跃星辰开源Step-Video-TI2V 图生视频模型介绍
  • 如何监控vLLM等大模型推理性能？
  • SANA-Sprint：基于连续时间一致性蒸馏的单步扩散模型，0.1秒即可生成图像
  • 创新场景丨小鹏汽车：端到端智驾真正竞赛在云端_

    • 热门讨论

    热门文章

  • modelscope-funasr的python websocket怎么实现多用户并发啊？
  • modelscope-funasr用官方docker启动 为什么只能用127.0.0.1链接wss？
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • modelscope-funasr在安卓平台可以集成sense voice吗？
  • modelscope-funasr中，funasr把语音识别结果返回给Java后端Java要传哪些？
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • modelscope-funasr实时ASR的微调该怎么操作？
  • modelscope-funasr怎么使用 gpu 加速啊？
  • 如何下载llama模型到本地？
  • Distributed package doesn't have NCCL built in
    • 展开全部
  • Agent TARS：一键让AI托管电脑！字节开源PC端多模态AI助手，无缝集成浏览器与系统操作
  • Manus再遭复刻！开源多智能体协作工具，实时查看每个AI员工的"脑回路"
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • Botgroup.chat：超有趣的开源 AI 聊天室！多个 AI 在线互怼，一键搭建你的专属 AI 社群
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • Cursor 上线最新 AI 模型 Claude 3.7 Max：200k上下文+200次工具调用！史上最强代码助手硬核上线
  • Anus：公开整活！完全用 Manus 复刻 Manus 功能的开源 AI 智能体项目
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
    • 展开全部
    还有其他疑问?
    咨询AI助理