开发者社区 问答 正文

DLA面向对象存储OSS的架构优化有哪些?

DLA面向对象存储OSS的架构优化有哪些?

展开
收起
游客qzzytmszf3zhq 2021-12-09 19:46:58 524 分享 版权
1 条回答
写回答
取消 提交回答
  • 由于对象存储面向分析场景具有上面的问题,DLA构建了统一的DLA FS层来解决对象存储元信息访问、Rename、读取慢等问题。DLA FS同时支持DLA的Serverless Spark进行ETL读写、DLA Serverless Presto数据交互式查询、Lakehouse入湖建仓数据的高效读取等。面向对象存储OSS的架构优化整体分为四层:

    数据湖存储OSS:存储结构化、半结构化、非结构化,以及通过DLA Lakehouse入湖建仓的HUDI格式; DLA FS:统一解决面向对象存储OSS的分析优化问题,包括Rename优化、Read Buffer、Data Cache、File List优化等; 分析负载:DLA Serverless Spark主要读取OSS中的数据ETL后再写回OSS,Serverless Presto主要对OSS上面建仓的数据进行交互式查询; 业务场景:基于DLA的双引擎Spark和Presto可以支持多种模式的业务场景。

    2021-12-09 19:47:08
    赞同 展开评论