开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

咨询下大数据计算MaxCompute,我简单测试了一下:这个是因为底层IO的问题吗?

咨询下大数据计算MaxCompute,我简单测试了一下:同一个结构的数据,字段都一样,仅仅总行数有微小差异,他们最大的不同是一个底层分5个文件,一个全部在1个文件,都是同一个SQL(select ctl_are_cod, cny_cod from xxx where collect_dt_oss = '99999999')。
但是底层1个文件的读取速度居然比5个的要快40%,5个文件的启动了5个M instance,1个文件的是1个,这个是因为底层IO的问题吗?我其实想确认下存储文件是放到一个大文件好还是多个均衡的文件好呢?

展开
收起
真的很搞笑 2023-12-03 19:42:29 40 0
3 条回答
写回答
取消 提交回答
  • MaxCompute的查询性能主要取决于以下几个因素:数据的大小、数据的分布、数据的索引、查询的优化等。在你的测试中,虽然两个表的底层文件数量不同,但是他们的数据结构和查询条件都是相同的,因此,他们的查询性能应该不会有太大的差异。

    然而,由于MaxCompute的查询优化器的工作原理,如果一个表的数据分布在多个文件中,那么MaxCompute需要为每个文件创建一个查询计划,然后在执行查询时,将这些查询计划合并起来。这个过程可能会消耗一些额外的CPU和内存资源,从而影响查询的性能。

    另一方面,如果一个表的所有数据都在一个文件中,那么MaxCompute只需要为一个文件创建一个查询计划,然后在执行查询时,直接使用这个查询计划。这个过程相对来说更简单,因此可能会提高查询的性能。

    所以,如果你的数据量不大,或者你的查询条件可以保证数据的均匀分布,那么将数据放在一个文件中可能会提高查询的性能。然而,如果你的数据量很大,或者你的查询条件不能保证数据的均匀分布,那么将数据放在多个文件中可能会提高数据的可用性和查询的性能。

    2023-12-04 16:50:10
    赞同 展开评论 打赏
  • 推荐放到5个文件(按照MaxCompute分区放)里面,因为MaxCompute读取可以按照分区来做剪裁。如果放到一个文件里面,MaxCompute会先全部读过来,再做过滤。
    放到不同的文件里面,可以单独读取某一个文件的数据。 ,此回答整理自钉群“MaxCompute开发者社区2群”

    2023-12-04 08:06:23
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    您好,关于MaxCompute的存储方式选择问题,这实际上涉及到了大数据处理中的一个重要环节:如何根据业务需求和系统特性进行存储优化。对于您的情况,可能的原因确实与底层IO有关。

    首先,每个文件都会有一个元数据(metadata),当您有一个大文件时,元数据的操作次数相对于多个小文件会更少,从而有可能减少了一些额外的开销。同时,如果采用多个小文件的方式,每个小文件都会启动一个M实例,而一个大文件则只会启动一个M实例。这就意味着在读取操作时,前者会产生更多的并发操作,可能导致磁盘I/O成为瓶颈,影响整体的读取速度。

    但是,并非所有情况下大文件都是最佳选择。因为当文件过大时,可能会对数据的管理和定位带来不便。例如,如果您需要对文件中的部分数据进行修改或查询,大文件可能会增加定位和提取数据的复杂性。此外,过多的小文件也可能导致存储和计算性能的问题。

    2023-12-03 21:26:05
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载