开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

入湖引擎是什么?

入湖引擎是什么?

展开
收起
Lee_tianbai 2021-01-07 16:15:35 889 0
1 条回答
写回答
取消 提交回答
  • 入湖引擎使用了阿里云 EMR 团队自研的 Spark Streaming SQL 以及 EMR Spark 引擎,Streaming SQL 基于 Spark Structured Streaming,提供了相对完善的 Streaming SQL 语法,极大简化了实时计算的开发成本。对于实时增量模板,上层入湖 模板部分将入湖模板翻译成 Streaming SQL,然后提交 Spark 集群运行。我们在 Streaming SQL 里面扩展了 Merge Into 语法来支持 update、delete 操作。对于 RDS 等全量模板,则直接翻译成 Spark SQL 运行。

    2021-01-07 16:15:44
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
《基于Hologres和Flink的实时数据分析方案》 立即下载
基于 Flink CDC 打造 企业级实时数据集成方案 立即下载
Hologres物化视图升级 构建企业一站式实时数仓 立即下载