Dataphin功能Tips系列(43)-实时任务调试-session集群

简介: 实时任务调试-session集群

一、场景

在实际运行实时研发任务前,往往需要进行调试,目前本地调试支持自动采样的数据源有限,不支持自动采样的数据源需要手动上传数据,流程繁琐,调试效率很慢,并且这并非真正的流式读取,那有更好的办法进行调试吗?

二、解决方案及功能

Dataphin 支持 session 集群用于调试,支持流式数据的调试(即一边从来源表中读取数据,一边进行计算,与真实线上运行任务的结果一致,只是不会将结果写入到结果表中,而是写入到 dataphin 自建的 connector 中,既方便调试人员查看和分析数据,同时又不会干扰线上生产环境的数据)

①创建session集群前需要先在调度集群上划分一个资源组,之后的实时作业提交到session集群时,使用该资源组的资源(根据需求配置cpu和内存资源,最少不少于3c12g)

②新建session集群

③配置session集群内TM数量、Slot数量,JM和TM各占用的CPU和内存资源

可以看到,如果①中资源组给的资源过少,就会导致TM数量以及JM和TM各占用的CPU和内存资源都比较少,这可能会导致性能瓶颈,特别是在处理高负载作业时,如果一个作业占用了大量的 TM 资源,其他作业可能会受到影响,甚至可能出现作业执行缓慢或者失败的情况

④点击调试,选择采集线上数据,并选择我们刚刚配置的session集群即可

相关文章
|
机器人 数据中心
Dataphin功能Tips系列(79)精准获知标准更新动态,协同治理更高效
Dataphin支持数据标准变更订阅,可实时通过站内信、邮箱或钉群机器人通知相关人员,确保业务及时响应。用户可通过标准列表、个人中心等入口批量订阅,变更消息包含状态、版本及跳转链接,便于快速查看与处理。
391 8
|
数据采集 监控 调度
Dataphin功能Tips系列(76)质量规则调度配置系列(3)-定时调度
Dataphin「定时调度」功能支持按需设定数据质量检测时间与频率,适用于定期检查数据质量问题的场景。提供手动配置和系统推荐两种方式,可自动执行规则并生成报告,帮助用户高效发现并处理问题。
418 9
|
数据采集 运维 调度
Dataphin功能Tips系列(75)质量规则调度配置系列(2)-固定任务触发调度
Dataphin“固定任务触发调度”支持在任务成功或运行前触发质量规则校验。适用于表数据来源任务固定的场景,通过绑定强规则可阻断下游任务,防止脏数据扩散,提升数据质量管控能力。
691 9
|
数据管理
Dataphin功能Tips系列(78)自定义属性助力资产精细化管理
Dataphin V5.3升级自定义属性功能,支持多选、超链接及引用系统属性,实现资产“归口部门”与组织架构同步、指标看板一键跳转等场景,提升资产配置灵活性与管理效率。
356 8
|
数据采集 调度
Dataphin功能Tips系列(74)质量规则调度配置系列(1)-数据更新触发调度
Dataphin通过“数据更新触发调度”功能,结合强规则校验,可在订单表数据更新时自动触发质量检查,异常时阻断下游任务,有效防止脏数据扩散,保障关键业务链路的数据准确性与稳定性。
1077 8
|
安全 数据安全/隐私保护
Dataphin功能Tips系列(73)Dataphin行级权限:构建灵活高效的权限管理体系
Dataphin行级权限通过“控制字段”实现精细化数据管控,有效避免传统字段权限过度开放带来的安全风险,提升权限管理效率与灵活性,满足复杂场景下的数据安全需求。
439 4
Dataphin功能Tips系列(77)如何实现数据资产上下架的精准管控与高效流转
在企业数据治理中,Dataphin支持按资产范围灵活配置上下架审批流程。通过标签、项目等条件圈选资产,绑定自定义审批模板,实现核心资产精细管控与大规模资产高效流转的平衡,提升数据运营效率。
456 1
|
测试技术 数据处理 调度
Dataphin功能Tips系列(57)「预览」vs「运行」:离线集成的神奇按钮
在数据开发过程中,使用Dataphin处理离线集成任务时,可能遇到数据过滤和字段计算组件配置正确性的验证问题。通过「预览」功能,可快速验证处理逻辑而不影响目标表;对于需要调度的任务,担心资源占用和耗时超出预期时,可使用「运行」功能进行全流程测试,评估实际耗时与资源消耗。「预览」适合逻辑验证,「运行」用于真实环境模拟,两者结合助力高效开发与调试。
482 5
|
SQL Java 关系型数据库
Dataphin功能Tips系列(53)-离线集成任务如何合理配置JVM资源
本文探讨了将MySQL数据同步至Hive时出现OOM问题的解决方案。
566 5
|
SQL 数据采集
Dataphin功能Tips系列(56)如何实现质量规则的批量修改
本文介绍了在Dataphin中针对Dataphin表和全域数据表的自定义SQL规则的批量修改的方法。
467 4

热门文章

最新文章