开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

Python UDF 执行计划优化有哪几种思路?

Python UDF 执行计划优化有哪几种思路?

展开
收起
詹姆斯邦德00 2021-11-17 17:39:41 760 0
1 条回答
写回答
取消 提交回答
  • 主要有以下几个优化思路。

    第一个是不同类型的 UDF 的拆分,由于在一个节点中可能同时包含多种类型的 UDF,而不同的类型的 UDF 是不能放在一块执行的;

    第二个是Filter下推,其主要目的是尽可能降低含 有Python UDF 节点的输入数据量,从而提升整个作业的执行性能;

    第三个优化思路是Python UDF Chaining,Java 进程与 Python 进程之间的通信开销以及序列化反序列化 开 销 比 较 大 , 而 PythonUDFChaining可以尽量减少Java进程和Python进程之间通信开销。

    资料来源:《Apache Flink 必知必会》,下载链接:https://developer.aliyun.com/topic/download?id=1189 

    2021-11-17 18:31:45
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关电子书

更多
From Python Scikit-Learn to Sc 立即下载
Data Pre-Processing in Python: 立即下载
双剑合璧-Python和大数据计算平台的结合 立即下载