Dataphin功能Tips系列(57)「预览」vs「运行」:离线集成的神奇按钮

简介: 在数据开发过程中,使用Dataphin处理离线集成任务时,可能遇到数据过滤和字段计算组件配置正确性的验证问题。通过「预览」功能,可快速验证处理逻辑而不影响目标表;对于需要调度的任务,担心资源占用和耗时超出预期时,可使用「运行」功能进行全流程测试,评估实际耗时与资源消耗。「预览」适合逻辑验证,「运行」用于真实环境模拟,两者结合助力高效开发与调试。

场景一

作为第一次使用Dataphin的数据开发,在离线集成任务中,你遇到了这样的问题:某原始表中存在部分错误记录,需要剔除后生成新字段,再迁移到新库中,因此你在集成管道中设置了过滤和字段计算组件。谨慎的你想知道组件配置是否正确,这时该如何快速验证处理后的数据呢?

解决方案及功能

  1. 点击「预览」。

  1. 执行任务成功后,控制台会自动跳转到「运行结果」,在这里可以看到除输出组件之外的执行结果。

场景二

看到了正确处理的数据,你又遇到了新的问题:任务需要每小时调度一次,但原始表数据量比较大,你担心耗时和资源占用超出预期。那么,该如何测试任务的真实运行情况,避免生产环境“翻车”呢?

解决方案及功能

  1. 点击「运行」。

  1. 成功执行任务后,控制台自动跳转到「日志信息」-「运行信息」,在这里可以看到本次运行的总耗时、读取和写入的数据条数。点击下方的「通道信息」,可以看到本次运行的资源消耗情况,以及读取和写入速率等等。

总结一下

预览」= 只读不写验逻辑,整个管道任务中,只有输出组件不执行,可以快速无风险验证数据处理,不会对目标表产生影响。

「运行」= 真实跑一遍,执行读取+写入全流程,可以用于开发测试,精准评估全量数据从输入到输出的实际耗时和资源占用。

相关文章
|
5月前
|
机器人 数据中心
Dataphin功能Tips系列(79)精准获知标准更新动态,协同治理更高效
Dataphin支持数据标准变更订阅,可实时通过站内信、邮箱或钉群机器人通知相关人员,确保业务及时响应。用户可通过标准列表、个人中心等入口批量订阅,变更消息包含状态、版本及跳转链接,便于快速查看与处理。
199 8
|
5月前
|
数据采集 监控 调度
Dataphin功能Tips系列(76)质量规则调度配置系列(3)-定时调度
Dataphin「定时调度」功能支持按需设定数据质量检测时间与频率,适用于定期检查数据质量问题的场景。提供手动配置和系统推荐两种方式,可自动执行规则并生成报告,帮助用户高效发现并处理问题。
191 9
|
5月前
|
数据采集 运维 调度
Dataphin功能Tips系列(75)质量规则调度配置系列(2)-固定任务触发调度
Dataphin“固定任务触发调度”支持在任务成功或运行前触发质量规则校验。适用于表数据来源任务固定的场景,通过绑定强规则可阻断下游任务,防止脏数据扩散,提升数据质量管控能力。
272 9
|
5月前
|
数据管理
Dataphin功能Tips系列(78)自定义属性助力资产精细化管理
Dataphin V5.3升级自定义属性功能,支持多选、超链接及引用系统属性,实现资产“归口部门”与组织架构同步、指标看板一键跳转等场景,提升资产配置灵活性与管理效率。
178 8
|
5月前
|
数据采集 调度
Dataphin功能Tips系列(74)质量规则调度配置系列(1)-数据更新触发调度
Dataphin通过“数据更新触发调度”功能,结合强规则校验,可在订单表数据更新时自动触发质量检查,异常时阻断下游任务,有效防止脏数据扩散,保障关键业务链路的数据准确性与稳定性。
213 8
|
5月前
|
安全 数据安全/隐私保护
Dataphin功能Tips系列(73)Dataphin行级权限:构建灵活高效的权限管理体系
Dataphin行级权限通过“控制字段”实现精细化数据管控,有效避免传统字段权限过度开放带来的安全风险,提升权限管理效率与灵活性,满足复杂场景下的数据安全需求。
242 4
|
5月前
Dataphin功能Tips系列(77)如何实现数据资产上下架的精准管控与高效流转
在企业数据治理中,Dataphin支持按资产范围灵活配置上下架审批流程。通过标签、项目等条件圈选资产,绑定自定义审批模板,实现核心资产精细管控与大规模资产高效流转的平衡,提升数据运营效率。
199 1
|
Java Maven Docker
gitlab-ci 集成 k3s 部署spring boot 应用
gitlab-ci 集成 k3s 部署spring boot 应用
|
消息中间件 监控 Java
您是否已集成 Spring Boot 与 ActiveMQ?
您是否已集成 Spring Boot 与 ActiveMQ?
493 0
|
监控 druid Java
spring boot 集成配置阿里 Druid监控配置
spring boot 集成配置阿里 Druid监控配置
1370 6

热门文章

最新文章