Spark 3.0 的Adaptive Query Execution是什么?

Spark 3.0 的Adaptive Query Execution是什么? 求大佬解答

展开
收起
爱吃鱼的程序员 2020-12-28 13:46:14 1122 分享
分享
版权
举报
2 条回答
写回答
取消 提交回答
  • Android系统与应用研发7年,专注于系统性能问题处理、开发流程工具研发、SDK组件研发工作。 服务端研发2年,前后使用Golang, RoR搭建后端服务程序。

    对查询执行计划的优化,允许 Spark Planner 在运行时执行可选的执行计划,这些计划将基于运行时统计数据进行优化。 AQE 框架目前提供了三个功能: - 动态合并 shuffle partitions; - 动态调整 join 策略; - 动态优化倾斜的 join(skew joins)。

    2021-03-02 20:36:02 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • https://developer.aliyun.com/profile/5yerqm5bn5yqg?spm=a2c6h.12873639.0.0.6eae304abcjaIB

    AdaptiveQueryExecution(AQE)在之前的版本里已经有所实现,但是之前的框架存在一些缺ApacheSpark的前世今生<6陷,导致使用不是很多,在Spark3.0中Databricks(Spark初创团队创建的大数据与AI智能公司)和Intel的工程师合作,解决了相关的问题。

    2020-12-28 13:46:30 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

还有其他疑问?
咨询AI助理
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等