我按照官网给的案例,利用pipeline获取UniASR语音识别-中文-通用-16k-实时这个模型做推理,但是程序跑出来并没有利用GPU还依然是用的CPU,所以想问各位大佬怎么选择用GPU做pipeline的推理呢?
您好,pipeline是支持GPU解码的,如果有GPU,默认使用GPU计算,如果没有GPU,才会用CPU解码,针对您遇到的问题,我们怀疑是环境按照问题,请问方便提供一下具体环境细节么?环境安装,推荐先按照tensorflow-gpu或者pytorch,然后再安装modelscope。您也可以加入我们钉钉服务群(群号:27215013275),方便及时沟通您在使用pipeline过程中遇到的问题
楼主你好,你可以在GPU上创建目标检测Pipeline管道:Creating an Object Detection Pipeline for GPUs,试一下