你好,MaxComputer压缩是怎么压缩的呢?

你好,MaxComputer压缩是怎么压缩的呢?有的表压缩比达到10几倍,有的表才3倍

展开
收起
真的很搞笑 2023-03-21 11:30:17 295 分享 版权
2 条回答
写回答
取消 提交回答
  • 主要看字段里值的内容,相似的内容在一起压缩率高,当前MaxCompute的底层目录结构以及压缩部分没有对外透出。 ,此回答整理自钉群“MaxCompute开发者社区1群”

    2023-03-22 18:10:13
    赞同 展开评论
  • 月移花影,暗香浮动

    MaxCompute支持多种列式存储压缩格式,包括LZO、Snappy、GZip、BZIP2和ZLIB。

    MaxCompute的压缩分为两种:块压缩和字典压缩。主要区别在于对数据的处理方式、压缩效果和压缩解压缩的速度。

    • 块压缩:将数据分成多个块,每个块单独压缩。块之间相互独立,可以随机访问,适用于实时查询。块压缩能够有效压缩重复的数据,可以减少存储空间。常用的块压缩格式有LZO、Snappy、GZip等。
    • 字典压缩:通过建立字典表,将相似的字符和字符串映射到相同的ID,再进行压缩。适用于批量数据处理,需先加载字典表,再进行压缩解压缩。字典压缩能够更好地压缩相似的数据,相对块压缩而言,能够更高效地提供更小的存储空间。常用的字典压缩格式有BZIP2和ZLIB等。

    压缩解压缩的速度不仅取决于压缩格式,也与具体的硬件配置、压缩解压缩的算法、压缩文件大小等因素相关。因此,在选择压缩格式时,需要综合考虑数据读写的频率、数据存储量、计算性能等因素。

    2023-03-21 15:33:23
    赞同 展开评论

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

收录在圈子:
MaxCompute 是面向分析的企业级 SaaS 模式云数据仓库,以 Serverless 架构提供快速、全托管的在线数据仓库服务,消除了传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您可以经济并高效的分析处理海量数据。数以万计的企业正基于 MaxCompute 进行数据计算与分析,将数据高效转换为业务洞察。
还有其他疑问?
咨询AI助理