开发者社区 > 大数据与机器学习 > 大数据开发治理DataWorks > 正文

DataWorks逻辑存储是什么概念?就是这个表实际size,不含多副本吗?

DataWorks逻辑存储是什么概念?就是这个表实际size,不含多副本吗?

展开
收起
真的很搞笑 2023-12-30 14:07:04 78 0
2 条回答
写回答
取消 提交回答
  • 在阿里云DataWorks中,当我们讨论“逻辑存储”时,我们通常是指数据库中的数据组织方式和表结构的抽象表示,而不涉及具体的数据块如何物理分布或存储在磁盘上的细节。逻辑存储包括了表、列、索引等数据库对象的定义,以及它们之间的关系。

    在Oracle数据库体系结构中,“逻辑存储”指的是数据库的逻辑视图,它由表空间(Tablespaces)、段(Segments)、区间(Extents)和数据块(Data Blocks)组成。表空间是逻辑存储的最高层容器,而每个表空间内包含多个段,段对应的是实际的数据对象(如表、索引),区间是分配给段的一组连续的数据块,数据块则是数据库进行I/O操作的最小单位。

    至于“表的实际大小”,这在逻辑存储层面通常是指该表理论上占用的空间,不考虑多副本或多实例下的物理复制情况。在分布式数据库系统中,如果存在多副本机制,那么一个表的总物理存储量会大于其逻辑存储量,因为每个副本都会计算在其内。

    而在阿里云MaxCompute(原名ODPS)这类大数据处理服务中,由于底层存储和计算架构的不同,表的逻辑大小一般也不直接反映物理存储大小,并且MaxCompute自动处理数据冗余和容错问题,用户无需关注多副本的具体实现。

    2023-12-30 18:03:27
    赞同 1 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    DataWorks逻辑存储是用来统计表的逻辑存储大小,这里的“逻辑存储大小”指的是数据占用的空间,以Byte为单位。这种度量方式并不包括多副本的存储量。也就是说,如果你有一个表,并且这个表有一个副本,那么副本所占用的空间并不会计入这张表的逻辑存储大小中。

    在DataWorks中,表的存储量、资源存储量、回收站存储量等都会计入项目的总体存储量。这些存储量的统计可能会存在一定的延迟,因此并不能完全实时反应出各个项目的存储状态。对于数据的管理,DataWorks采用了分层的方式,将数据仓库分为数据引入层、数据公共层和数据应用层,每一层都有其特定的功能。

    在实际使用中,如果需要查看表的详情信息,可以通过页面进行查看,其中就包括了表的大小(即逻辑存储大小)、字段数量、分区数量等信息。同时,DataWorks也提供了多种功能来支持数据的ETL处理和计算任务的开发。

    2023-12-30 15:50:23
    赞同 展开评论 打赏

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

相关产品

  • 大数据开发治理平台 DataWorks
  • 热门讨论

    热门文章

    相关电子书

    更多
    DataWorks全链路数据质量解决方案-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks数据集成实时同步最佳实践(含内测邀请)-2020飞天大数据平台实战应用第一季 立即下载
    DataWorks商业化资源组省钱秘籍-2020飞天大数据平台实战应用第一季 立即下载

    相关实验场景

    更多