AI 助理
备案控制台
开发者社区 ModelScope模型即服务 语音 正文

uniasr怎么选择用pipeline+GPU做推理？

uniasr怎么选择用pipeline+GPU做推理？按照官网实例还依然是cpu计算，并没有应用gpu，而且日志显示 failed call to cuInit: CUDA_ERROR_NO_DEVICE: no CUDA-capable device is detected。哪位大佬行行好解答一下，谢谢

展开
收起
aliyun0626609716 2023-01-11 21:17:20 1090 分享 版权
1 条回答
写回答
取消 提交回答
  • mxqe6llgslw3w

    您好，pipeline是支持GPU解码的，如果有GPU，默认使用GPU计算，如果没有GPU，才会用CPU解码，针对您遇到的问题，我们怀疑是环境按照问题，请问方便提供一下具体环境与模型细节么？环境安装，推荐先按照tensorflow或者pytorch，然后再安装modelscope。您也可以加入我们钉钉服务群（群号：27215013275），可以及时沟通您在使用pipeline过程中用到的问题

    2023-01-12 12:35:51
    赞同 展开评论
相关问答
语音
LLM大语言模型有个100并发的34b模型的推理需求，不知道需要多大的GPU？
816
2
0
modelscope-funasr的nnxruntime-gpu版本推理onnx慢的原因吗？
228
1
0
ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？
90
1
0
modelscope-funasr用GPU推理，A10和4090在性能上，是不是差很多很多？
210
1
0
modelscope-funasr的GPU推理的cpp版本内存和显存不回收的问题怎么解决？
64
0
0
想问一下ModelScope多卡部署后，使用了多张卡的显存。是使用多张卡的GPU进行推理吗？
113
1
0
请问qwen-72b-chat ModelScope模型本地部署推理需要多少GPU显存？
555
1
0
在modelscope-funasr用Python脚本推理，有没有推荐的gpu呀？
62
0
0
modelscope-funasr导出的onnx离线paraformer模型能用gpu推理吗？
93
0
0
无法将ModelScope模型在GPU上推理，有解决方法吗？
402
5
0
ModelScope模型即服务

语音

包括语音识别、语音合成、语音唤醒、声学设计及信号处理、声纹识别、音频事件检测等多个领域

我要提问
收录在圈子:
智能语音交互
168
+ 订阅

相关文章

  • 部署 DeepSeek 但 GPU 不足，ACK One 注册集群助力解决 IDC GPU 资源不足
  • 基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
  • 部署DeepSeek但IDC GPU不足，阿里云ACK Edge虚拟节点来帮忙
  • 边缘GPU节点的可观测原理和最佳实践
  • 部署DeepSeek但GPU不足，ACK One注册集群助力解决IDC GPU资源不足

    • 热门讨论

    热门文章

  • modelscope上跑报错，提示要pip install ttsfrd，搞不定
  • 关于 Windows平台上 ttsfrd 库的问题。
  • pip安装语音领域模型依赖报错。
  • 目录空间都删的只剩2G了，还报OSError: [Errno 122] Disk quota exc
  • KeyError: 'asr-inference is not in the pipelines r
  • 在Windows平台上关于 ModelScorpe Audio 安装涉及 kwsbp 的问题
  • No module named 'ttsfrd'
  • kantts 这个模型是什么东西啊，运行会报错
  • 自动标注模型ttsfrd初始化失败
  • wekws训练自定义数据集的误唤醒较高。
    • 展开全部
  • CosyVoice 2.0：阿里开源升级版语音生成大模型，支持多语言和跨语言语音合成，提升发音和音色等的准确性
  • 百聆：集成Deepseek API及语音技术的开源AI语音对话助手，实时交互延迟低至800ms
  • SpeechGPT 2.0：复旦大学开源端到端 AI 实时语音交互模型，实现 200ms 以内延迟的实时交互
  • 三行代码实现实时语音转文本，支持自动断句和语音唤醒，用 RealtimeSTT 轻松创建高效语音 AI 助手
  • Kokoro-TTS：超轻量级文本转语音模型，支持生成多种语言和多种语音风格
  • Clone-voice：开源的声音克隆工具，支持文本转语音或改变声音风格，支持16种语言
  • Step-Audio：开源语音交互新标杆！这个国产AI能说方言会rap，1个模型搞定ASR+TTS+角色扮演
  • FireRedASR：精准识别普通话、方言和歌曲歌词！小红书开源工业级自动语音识别模型
  • ClearerVoice-Studio：阿里通义开源的语音处理框架，提供语音增强、分离和说话人提取等功能
  • 3D-Speaker：阿里通义开源的多模态说话人识别项目，支持说话人识别、语种识别、多模态识别、说话人重叠检测和日志记录
    • 展开全部
    还有其他疑问?
    咨询AI助理