在机器学习PAI用easy_rec训练了一个Esmm,自己手写了一个,RT吞吐为什么差这么多?

在机器学习PAI用easy_rec训练了一个Esmm,RT 99线是15ms;我们自己手写了个Esmm,RT 99线是4ms;效果差不多,RT吞吐为什么差这么多。模型是有什么优化开关吗?easy_rec 训练的esmm 用gpu RT居然是cpu的10倍,转为onnx也比裸模型RT高,是我们有什么地方用的姿势不对吗。特征数不到90,样本大概5000w条。

展开
收起
三分钟热度的鱼 2023-06-20 10:06:52 100 分享 版权
1 条回答
写回答
取消 提交回答
  • 我们在预测的时候是做了大量优化,C++ 写的一个专用预测器。没有开源,但是是可以用的。ec868be0530c9ce0d6746f8157be9e7b.png 此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-06-20 10:22:05
    赞同 展开评论

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

还有其他疑问?
咨询AI助理