CurricularFace人脸识别模型推理速度太慢(CPU环境下识别一个人脸要2秒左右),有什么办法提高推理速度吗?官方文档没找到相关说明
https://www.modelscope.cn/models/damo/cv_ir101_facerecognition_cfglint/quickstart
把各阶段处理时间统计出来,分成终端到服务端的传输、服务端人脸特征提取、服务端人脸特征查找、终端开门反馈四个部分,看看瓶颈在哪里。只有提取人脸特征需要做模型推理,python也是调用底层lib来计算,和python语句速度关系不大,人脸识别模型多是resnet,不会很慢的。看看服务器上有GPU没有,如果有,可能你没用上;如果没有,建议看看blas库用的是什么,一般来说用intel MKL+MKLDNN要比普通的cblas库更快,另外把openmp的多线程打开。