GPU相比CPU并没有明显提高uniasr语音识别和语音合成的推理速度
经测试发现，相同配置条件下（阿里云线上notebook），同样的识别和合成代码，在cpu配置下，运行语音识别耗时平均在400ms ～ 500ms，语音合成的耗时平均在700ms-900ms，切换成gpu配置环境，相比cpu并没有明显提升，识别相差不超过100ms，合成相差不超过200ms，是gpu只在模型训练方面有比较大的速度提升，而不能有效提高推理速度吗？如果可以，是要做额外的操作来使gpu有效提升速度吗
展开
收起
2
条回答
写回答
写回答
-
-
是的，gpu对训练有较好的提升效果，对目前代码的推理来说加速有限，目前代码的推理纯粹实现在pytorch或tf上，建议使用其他推理框架（比如tensorrt）来针对一些模型进行加速。
2022-11-28 17:30:27赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope上跑报错，提示要pip install ttsfrd，搞不定
7932
关于 Windows平台上 ttsfrd 库的问题。
1831
No module named 'ttsfrd'
1429
在Windows平台上关于 ModelScorpe Audio 安装涉及 kwsbp 的问题
655
KeyError: 'asr-inference is not in the pipelines r
2066
目录空间都删的只剩2G了，还报OSError: [Errno 122] Disk quota exc
1053
modelscope 更新指定版本
432
PyTorch Transformer 英中翻译超详细教程
963
以下代码怎么调整语句之间的停顿？原模型没有停顿感，使用过ssml标注添加 break没有任何效果
398
自动标注模型ttsfrd初始化失败
1130
展开全部
CosyVoice 2.0：阿里开源升级版语音生成大模型，支持多语言和跨语言语音合成，提升发音和音色等的准确性
267
3D-Speaker：阿里通义开源的多模态说话人识别项目，支持说话人识别、语种识别、多模态识别、说话人重叠检测和日志记录
75
ClearerVoice-Studio：阿里通义开源的语音处理框架，提供语音增强、分离和说话人提取等功能
148
Freestyler：微软联合西工大和香港大学推出说唱音乐生成模型，支持控制生成的音色、风格和节奏等
74
KAN-TTS 在 conda 环境下无法安装 ttsfrd
1275
智能降噪
1114
Fish Speech 1.5：Fish Audio 推出的零样本语音合成模型，支持13种语言
94
ChatTTSPlus：开源文本转语音工具，支持语音克隆，是 ChatTTS 的扩展版本
65
kws_util 下载不了
79
Voice-Pro：开源AI音频处理工具，集成转录、翻译、TTS等一站式服务
97
展开全部
相关课程
更多
相关文章
相关电子书
更多
