GPU相比CPU并没有明显提高uniasr语音识别和语音合成的推理速度
经测试发现，相同配置条件下（阿里云线上notebook），同样的识别和合成代码，在cpu配置下，运行语音识别耗时平均在400ms ～ 500ms，语音合成的耗时平均在700ms-900ms，切换成gpu配置环境，相比cpu并没有明显提升，识别相差不超过100ms，合成相差不超过200ms，是gpu只在模型训练方面有比较大的速度提升，而不能有效提高推理速度吗？如果可以，是要做额外的操作来使gpu有效提升速度吗
展开
收起
2
条回答
写回答
写回答
-
-
是的，gpu对训练有较好的提升效果，对目前代码的推理来说加速有限，目前代码的推理纯粹实现在pytorch或tf上，建议使用其他推理框架（比如tensorrt）来针对一些模型进行加速。
2022-11-28 17:30:27赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
魔搭modelscope按官方文档安装音频环境失败
449
KeyError: 'asr-inference is not in the pipelines r
1350
请问开源的这个MossFormer2语音分离模型的训练数据是哪些？
311
modelscope上跑报错，提示要pip install ttsfrd，搞不定
5850
请问下modelscope TTS 如何调整语速语调，用modelscope的pipeline
636
关于 Windows平台上 ttsfrd 库的问题。
493
自动标注模型ttsfrd初始化失败
711
PyTorch Transformer 英中翻译超详细教程
707
有没有 java 对接的方案有没有 java 对接的方案有没有 java 对接的方案
244
kantts 这个模型是什么东西啊，运行会报错
1660
展开全部
相关课程
更多
相关文章
相关电子书
更多
