开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

Spark SQL 的SessionCatalog类中synchronize同步锁是在防止什么场景?

已解决

SessionCatalog类中,部分方法上加了synchronize关键字,如:getCurrentDatabase、droptable等 经过分析代码,实际上我们每个链接对于server这边都会创建一个sessioncatalog,什么场景下,我一个链接会在server这边产生并发呢? 或者作者再这些方法上添加sync关键字的意图是什么,希望可以解答。

展开
收起
1610946049117322 2021-03-17 10:06:09 1143 0
1 条回答
写回答
取消 提交回答
  • 下一站是幸福
    采纳回答

    Spark SQL 中的 Catalog 体系实现以 SessionCatalog 为主体,通过 SparkSession (Spark 程序入口)提供给外部调用。一般一个 SparkSession 对应一个 SessionCatalog。

    2021-04-02 22:07:11
    赞同 1 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载