DataWorks百问百答52:如何做无效表治理?

简介: 无效表治理

在数仓开发中,随着业务的增长和变化,数仓里会有越来越多的数据表,同时也会产生非常多的无效表,占用着数仓中大量的存储资源,且影响数据复用。那对于无效表,我们又该如何治理呢?

在这里,我将无效表定义为:空表和长期无访问的表。

空表的存在,会影响数据检索和复用,建议定期清理。长期无访问的表,会持续占用数仓中的存储资源,同样建议定期清理。那如何在数仓这么多的表里,发现空表和长期无访问的表呢?DataWorks的资源优化模块中,有一个数据存储优化,能将MaxCompute中的空表、90天未访问的表都筛选出来,便于用户进行治理。

空表

DataWorks资源优化对空表的定义为:每日凌晨数据存储量为0的数据表。

治理建议:在治理空表时,建议按创建时间正序处理,避免那些提前创建的数据表被误删;同时由于凌晨是离线任务产出数据的高峰期,可能会存在部分表在凌晨是以insert overwrite的方式写入数据,在识别数据时,有一定概率会因为识别时,数据被清空而导致被判定为空表,故在治理时,可以参考表下游数,当下游数为0时,表示没有被下游表依赖。

如某张表出现了上述治理建议中提到的误识别,可先为该表申请添加至白名单,产品侧也会不断完善识别规则,降低误判。

dataworks52-1.png

长期无访问的表

DataWorks资源优化对长期无访问的表,有一个最近90天未访问表的治理项,其定义为:最近90天内该表未被访问(查询表数据、同步表数据等,都属于访问)。

治理建议:在治理最近90天未访问表时,需深入了解该表的产出情况及访问情况,可以点击表名进入表详情页,先查看表的产出情况,是否每日稳定产出,再查看表的最近访问时间。若数据每日有稳定产出,但又没有下游访问,需与该表的业务方进行沟通,是否业务已经停用。若业务不确认是否还在使用,可以考虑先将产出任务暂停,将表的生命周期调小(比如:将表生命周期调整为7天,生命周期到期后数据会自动被回收);如业务确认该表已经被废弃了,可以直接删除。

无法找到业务方,难以确认是否可删除,可以短期将其添加至白名单中,但仍需尽快与业务方沟通,对齐处理方案。

dataworks52-2.png

小结

以上是DataWorks资源优化对空表和最近90天未访问表问题的处理方案,目前资源优化对无效表的治理项判定原则还在不断完善中,大家对无效表的治理有任何想法和建议都欢迎加入钉钉群反馈。

资源治理专项沟通钉钉群二维码如下,欢迎大家一起交流资源治理相关问题。
image.png

dataworks52-3.png

DataWorks百问百答历史记录 请点击这里查看>>

更多DataWorks技术和产品信息,欢迎加入【DataWorks钉钉交流群】

相关实践学习
基于Hologres轻量实时的高性能OLAP分析
本教程基于GitHub Archive公开数据集,通过DataWorks将GitHub中的项⽬、行为等20多种事件类型数据实时采集至Hologres进行分析,同时使用DataV内置模板,快速搭建实时可视化数据大屏,从开发者、项⽬、编程语⾔等多个维度了解GitHub实时数据变化情况。
相关文章
|
9月前
|
数据采集 运维 DataWorks
DataWorks 千万级任务调度与全链路集成开发治理赋能智能驾驶技术突破
智能驾驶数据预处理面临数据孤岛、任务爆炸与开发运维一体化三大挑战。DataWorks提供一站式的解决方案,支持千万级任务调度、多源数据集成及全链路数据开发,助力智能驾驶模型数据处理与模型训练高效落地。
|
人工智能 自然语言处理 DataWorks
DataWorks X DeepSeek : 用AI实现数据开发治理!
DataWorks X DeepSeek : 用AI实现数据开发治理!
463 3
|
人工智能 自然语言处理 DataWorks
DataWorks X DeepSeek : 用AI实现数据开发治理!
阿里云DataWorks正式接入DeepSeek-R1系列模型,用户可通过DataWorks Copilot智能助手,以自然语言交互完成代码操作,实现数据开发、分析与治理全流程。DataWorks内置阿里巴巴16年大数据建设方法论,支持多种大数据引擎和AI计算服务,助力“Data+AI”全生命周期管理。开通DataWorks后即可免费体验DataWorks Copilot。
|
SQL 人工智能 自然语言处理
DataWorks年度发布:智能化湖仓一体数据开发与治理平台的演进
阿里云在过去15年中持续为268集团提供数据服务,积累了丰富的实践经验,并连续三年在IDC中国数据治理市场份额中排名第一。新一代智能数据开发平台DateWorks推出了全新的DateStudio IDE,支持湖仓一体化开发,新增Flink计算引擎和全面适配locs,优化工作流程系统和数据目录管理。同时,阿里云正式推出个人开发环境模式和个人Notebook,提升开发者体验和效率。此外,DateWorks Copilot通过自然语言生成SQL、代码补全等功能,显著提升了数据开发与分析的效率,已累计帮助开发者生成超过3200万行代码。
|
数据采集 机器学习/深度学习 DataWorks
DataWorks产品评测:大数据开发治理的深度体验
DataWorks产品评测:大数据开发治理的深度体验
587 1
|
数据采集 DataWorks 数据挖掘
提升数据分析效率:DataWorks在企业级数据治理中的应用
【8月更文第25天】本文将探讨阿里巴巴云的DataWorks平台如何通过建立统一的数据标准、规范以及实现数据质量监控和元数据管理来提高企业的数据分析效率。我们将通过具体的案例研究和技术实践来展示DataWorks如何简化数据处理流程,减少成本,并加速业务决策。
1004 54
|
机器学习/深度学习 存储 数据采集
解锁DataWorks:一站式大数据治理神器
解锁DataWorks:一站式大数据治理神器
359 1
|
数据采集 人工智能 DataWorks
限时优惠体验!DataWorks数据治理中心全新升级为数据资产治理
DataWorks进行全面升级,从数据治理中心转型为数据资产治理,强调业务视角下的数据分类与管理,引入Data+AI全链路数据血缘追踪,提升数据质量和安全性,促进跨部门协作。同时,提供限时优惠活动,助力企业高效利用数据资产。
1386 2
|
SQL 人工智能 DataWorks
【云栖实录】DataWorks:新一代智能湖仓一体数据开发与治理平台
在9月21日的云栖大会上,DataWorks发布了新一代智能湖仓一体数据开发与治理平台。DataWorks历经Kubernetes改造与云原生调度系统的优化,实现了资源组全面Serverless化,降低了使用成本,最高可节省40%。新推出的DataWorks Data Studio,支持多种计算引擎,提供更开放的云原生WebIDE,提升开发效率。DataWorks Copilot智能助手也得到升级,支持多种SQL方言和Python代码生成,平均提升数据开发效率35%。此外,DataWorks还推出了全方位的数据资产治理体系,涵盖业务和技术视角,助力企业实现数据智能化管理和转型。
1298 0
【云栖实录】DataWorks:新一代智能湖仓一体数据开发与治理平台
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之同样的表和数据,在PolarDB执行LEFT JOIN查询可以得到结果,但在MaxCompute中却返回为空,是什么原因
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。

相关产品

  • 大数据开发治理平台 DataWorks