开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

请问EcodOutlierBatchOp和EcodOutlier机器PAI的效率为什么差别很大

"请问EcodOutlierBatchOp和EcodOutlierStreamOp的效率为什么差别很大? 我们测试了一下10倍不止这个是正常的嘛1w条数据,使用stream模型超慢,使用batch很快93e8c9461b904da0010f8bd70ba73c53.png a6ac3fa7990ef34e2c9b6aa824224e7e.jpg EcodOutlierStreamOp我们试了好几次都很慢品数"

展开
收起
JWRRR 2023-05-02 10:56:14 162 0
2 条回答
写回答
取消 提交回答
  • "不应该用这么多时间。您方便提供数据和代码吗?我们来查一下。 此回答整理自钉群“Alink开源--用户群”"

    2023-05-05 19:34:57
    赞同 展开评论 打赏
  • 随心分享,欢迎友善交流讨论:)

    EcodOutlierBatchOp和EcodOutlierStreamOp是Flink机器学习库中的两个算子,分别用于批处理和流处理场景下的异常值检测。它们之间的效率差异可能由多种因素引起,例如:

    数据量大小: EcodOutlierBatchOp适用于批处理场景,处理的数据量比EcodOutlierStreamOp更大。因此,当数据量较小时,EcodOutlierBatchOp可能更快。但是,当数据量较大时,EcodOutlierStreamOp可能更适合,因为它可以并行处理数据流,不需要全部加载到内存中。

    计算资源: 执行EcodOutlierBatchOp可能需要更多的计算资源,例如内存和CPU。如果您的计算资源不足,EcodOutlierBatchOp的效率就会降低。相反,EcodOutlierStreamOp对计算资源的要求相对较低,可以在较小的资源配置下运行。

    数据输入方式: EcodOutlierBatchOp和EcodOutlierStreamOp支持的数据输入方式不同。EcodOutlierBatchOp通常从文件或数据集加载数据;而EcodOutlierStreamOp则从实时数据流中读取数据。如果您的数据输入方式与算子不匹配,可能会影响算子的效率。

    综上所述,EcodOutlierBatchOp和EcodOutlierStreamOp的效率差异可能与多种因素有关,需要具体情况具体分析。建议您根据实际场景选择合适的算子,并根据实验结果进行适当的优化。

    2023-05-05 16:45:01
    赞同 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

相关产品

  • 人工智能平台 PAI
  • 热门讨论

    热门文章

    相关电子书

    更多
    大规模机器学习在蚂蚁+阿里的应用 立即下载
    基于Spark的面向十亿级别特征的 大规模机器学习 立即下载
    基于Spark的大规模机器学习在微博的应用 立即下载