瓴羊Dataphin_个人页

2024年05月

• 03.06 10:09:20
  发表了文章 2024-03-06 10:09:20

  Dataphin功能Tips系列（5）-手工表上传及长期维护

  有些业务数据是手工excel维护的，这时我们要如何将数据上传至dataphin并进行维护？

  
• 03.01 09:42:42
  发表了文章 2024-03-01 09:42:42

  “Dataphin功能tips”系列

  hello，大家好： 为了更好地引导广大用户深入探索和高效利用Dataphin全方位的数据智能能力，我们特别推出“Dataphin功能小Tips”系列，旨在通过生动直观的场景描述与对应的功能应用方案，以简洁明快的语言呈现，力求让每一位用户都能轻松解锁Dataphin中的每一个实用功能点。 这一系列内容专为提升您的使用体验而设计，期待能为大家解决实际问题、优化数据管理工作带来切实的帮助，在此，我们也诚挚邀请所有用户积极参与互动，随时分享您宝贵的使用心得与建议。您的反馈将是我们不断迭代优化的重要动力！
• 03.01 09:41:55
  发表了文章 2024-03-01 09:41:55

  Dataphin功能Tips系列（4）-告警推送失败排查

  告警推送失败排查

  
• 03.01 09:40:51
  发表了文章 2024-03-01 09:40:51

  Dataphin功能Tips系列（3）-利用公共日历进行条件调度

  利用公共日历进行条件调度

  
• 03.01 09:39:52
  发表了文章 2024-03-01 09:39:52

  Dataphin功能Tips系列（2）-关联逻辑表主题式查询

  关联逻辑表主题式查询

  
• 03.01 09:37:32
  发表了文章 2024-03-01 09:37:32

  Dataphin功能Tips系列（1）-研发任务列表

  研发任务列表

  
• 02.23 11:52:01
  发表了文章 2024-02-23 11:52:01

  【一周快讯】数据治理洞察快讯2024.02.27

  第一时间了解数据治理领域的最新动态

  
• 02.04 22:11:47
  发表了文章 2024-02-04 22:11:47

  DataphinV3.14全新升级：数据研发突破全域覆盖，资产治理更加灵活可控

  DataphinV3.14支持传统数据库调用，带来全新高效研发体验，及时全面的数据保护、自定义监控和审批让数据治理更灵活自由。
• 02.04 14:30:11
  发表了文章 2024-02-04 14:30:11

  Dataphin公共云多租户数据源上云网络方案

  通过Dataphin公共云多租户的方式，可以实现零部署成本、零运维成本构建智能大数据研发与治理平台。Dataphin部署在阿里云上，已有的数据源部署在本地机房，因此数据上云第一步，首先要打通网络。本文将介绍本地IDC机房的数据源网络打通的不同方案。
• 02.04 12:44:16
  发表了文章 2024-02-04 12:44:16

  Dataphin数据服务API开启IP白名单调用鉴权

  Dataphin数据服务API提供便捷的API开发及运维、应用调用权限管理等功能，为数据业务化提供了坚实的支撑。在应用调用API的时候，Dataphin可支持通过AcessKey方式的调用鉴权。而在企业内部网络中，也可以使用IP白名单方式简化调用。本文将为您介绍如何开启IP白名单的调用鉴权。
• 02.04 11:33:38
  发表了文章 2024-02-04 11:33:38

  Dataphin实现MaxCompute外表数据快速批量同步至ADB MySQL

  当前大数据时代背景下，企业对数据的处理、分析和实时应用的需求日益增强。阿里云MaxCompute广泛应用于海量数据的ETL、数据分析等场景，但在将处理后的数据进一步同步至在线数据库系统，如ADB MySQL 3.0（阿里云自研的新一代云原生关系型数据库MySQL版）以支持实时查询、业务决策等需求时，可能会遇到数据迁移速度缓慢的问题。 DataphinV3.14版本支持外表导入SQL的带参调度，实现通过MaxCompute外表的方式将数据批量同步至ADB MySQL 3.0中，显著提升数据迁移的速度和效率。
• 01.30 16:51:59
  发表了文章 2024-01-30 16:51:59

  Dataphin V3.14 版本升级｜研发平台更易用，治理能力更完备，企业级适配更灵活

  Dataphin V3.14 重磅升级，平台支持企业级适配，适配企业特色；研发体验易用性提升，数据研发更高效、任务运维更便捷；数据治理能力更完备，支持多对象批量操作，规则级告警配置、分级分类自动继承继承！
• 01.22 15:59:04
  发表了文章 2024-01-22 15:59:04

  Dataphin集成任务支持自定义FTP标记完成文件内容（V3.14）

  在文件传输的场景中，标记完成文件（有时也被称为标档文件）作为一种重要的确认机制被广泛应用。这一机制通过创建特定的“传输完成标识文件”，用于明确指示数据文件已成功完成全量传输，并达到可以进行下一步业务处理的状态，从而有效防止了基于不完整数据流的错误操作。
• 01.21 20:11:15
  发表了文章 2024-01-21 20:11:15

  标准审批灵活配置助力高效组织流程管理

  Dataphin 在 V3.14 版本中对标准审批设置功能进行了全面升级，支持按照标准集粒度对不同数据标准的审批流程进行配置：上线、下线审批可独立配置，支持免审批；此外，Dataphin 支持设置不同模块的审批流程使用的审批系统（内置或第三方审批系统），从而将标准管理流程和且 OA 流程进行更好的结合，助力提升组织流程的管理效率，推动业务发展。
• 01.17 20:02:06
  发表了文章 2024-01-17 20:02:06

  DataphinV3.14 Flink SQL任务支持基于Session集群调试，模拟生产代码逻辑的调试效果

  实时研发一直以来的都是通过local-debug的方式来调试开发中的Flink SQL任务，该方式有如下不足: 1. 支持的采样数据有限，且非是流式数据的调试。 2. 手动上传构造数据的方式较为繁琐，局限性较大。 为便于Flink SQL任务的调试，DataphinV3.14版本支持Flink SQL任务基于Session集群调试，期望做到像离线即席查询般方便地获取实时任务的输出结果，方便用户对线上的真实数据进行代码逻辑上的调试。
• 12.13 16:31:26
  发表了文章 2023-12-13 16:31:26

  Dataphin V3.13 支持实时计算任务列表，快速批量操作

  在一些场景中，常常需要支持通过筛选指定条件快速定位目标实时任务并进行批量操作，如：为了保证大促期间实时指标及时准确产出，在大促前需要找出一批相关的实时任务进行资源配置的调整，更高效利用可用计算资源，实现资源的动态分配和优化；当系统需要紧急响应某些情况（如故障恢复、资源冲突等）时，批量操作使得快速下线、替换或重启一组任务。 Dataphin V3.13版本中，新增实时计算任务列表，支持快速筛选任务和批量操作任务的功能，可以帮助更加高效地处理大量计算任务。
• 12.08 17:34:39
  发表了文章 2023-12-08 17:34:39

  不想跨集群传输数据？Dataphin自定义集群帮你搞定！

  Dataphin V3.13版本新增自定义注册调度集群功能。通过自定义注册不同集群并指定关联租户，可实现资源隔离管控；通过指定集成任务运行使用的资源组，可减少跨集群数据传输场景，降低流量带宽消耗，提高同步效率。
• 12.06 19:20:22
  发表了文章 2023-12-06 19:20:22

  新增离线集成任务列表，支持快速筛选任务并进行批量操作 【V3.13】

  离线集成任务列表提供了一个展示集成任务详细信息的页面，便于查看集成任务的各类信息。同时还支持根据任务的各类属性进行筛选。还支持根据来源与目标数据源或数据表进行任务的查找与筛选。便于在一些业务变更的时候，能快速筛选到所有任务，进行查看或批量修改的操作，提高开发与运维的效率。

2023年12月

• 11.22 13:23:38
  发表了文章 2023-11-22 13:23:38

  Dataphin（智能数据建设与治理）V3.13版本升级速览

  本次发布的V3.13 版本中，Dataphin 不仅提升了易用性，支持了计算任务批量操作（离线集成&实时计算任务）、运维列表查看及批量操作（实例排序、手动任务批量运行、逻辑表任务修改负责人）等功能；也新增了多个特色功能，如：任务传参及灵活调度（跨节点参数）、治理经验沉淀（质量知识库）、资产治理相关对象的跨租户发布（数据标准、安全）、跨集群资源调度、分析平台手工表等，以满足灵活、多样性的业务诉求。

2023年11月

• 11.13 22:02:56
  发表了文章 2023-11-13 22:02:56

  利用标签平台创建群组并通过API查询群组数据

  Dataphin的标签平台提供了 丰富强大的标签加工能力，支持多种类型标签开发，包括离线、实时等标签可视化加工。基于离线视图、实时视图、行为关系，可通过配置化的方式构建属性类、统计类标签、偏好类标签，以及与已有的标签创建衍生组合标签。通过构建及管理标签，形成良好的标签资产，可供上层的应用及业务系统使用。本文将介绍如何通过Dataphin OpenAPI圈选群组以及群组分页查询服务，让应用系统集成标签平台的标签及群组加工能力，进行群组的圈选、分析及投放。
• 11.09 16:37:08
  发表了文章 2023-11-09 16:37:08

  Dataphin实时研发实践—电商场景下的实时数据大屏构建

  实时数据大屏是实时计算的重要应用场景之一，广泛应用在电商业务中，用于实时监控和分析电商平台的运营情况。通过大屏展示实时的销售额、订单量、用户活跃度、商品热度等数据指标，帮助业务人员随时了解业务的实时状态，快速发现问题和机会。同时，通过数据可视化和趋势分析，大屏也提供了决策支持和优化运营的功能，帮助业务人员做出及时的决策和调整策略，优化电商业务的运营效果。 下面以电商业务为背景，介绍如何构建经典实时数仓，实现实时数据从业务库到ODS层、DWD层、DWS层全链路流转，基于Dataphin和Quick BI实现实时数据大屏。

2023年10月

• 10.10 10:23:11
  发表了文章 2023-10-10 10:23:11

  【Dataphin运维】解放双手，支持补数据任务定时调度和手动运行，轻松实现回刷历史数据

  Datatphin V3.11版本全新上线补数据任务功能，支持将单次补数据保存为补数据任务，保存补数据节点范围及运行规则；支持补数据任务定时调度，自动定期回刷历史数据；支持手动运行补数据任务。满足企业复杂多样的回刷历史数据的需求，减少人工操作成本。

2023年09月

• 09.15 11:15:27
  发表了文章 2023-09-15 11:15:27

  Dataphin（数据建设与治理）V3.12版本升级详情

  本次发布的V3.12 版本中，核心重点能力主要有 支持 StarRocks计算引擎适配；部署去除OSS/Ceph等存储依赖；分析平台支持query任务；质量分，数据标准结构升级支持标准模板，批量导入导出；实时研发支持等Flink SQL支持访问MySQL、Hologres、MaxCompute数据源中的表等 在下一个版本中，将支持自定义消息渠道，支持质量知识库，标准、安全支持跨租户发布，分析平台支持手工表等功能，还有很多其他新增能力与功能升级，敬请期待。
• 09.14 21:02:04
  发表了文章 2023-09-14 21:02:04

  Dataphin数据探查助力快速了解数据概貌，更早识别潜在风险

  在日常数据加工处理工作中，不同角色（运营、开发、数据分析师、业务人员等）尝尝会面临一个共同问题：数据是否可用？在数据量大、数据可信度不高的情况下，常常需要花费大量时间精力对数据进行校验，了解数据概貌并评估数据是否可用，也就是需要进行所谓的“数据探查”工作。因此，Dataphin 特别推出“数据探查”功能，只需要进行简单的配置，就可以周期性地执行探查任务并产出内容丰富、结果准确的可视化探查报告。此外，也可以保留历史的数据探查结果，便于结合历史数据进行对比分析，不仅降低了操作门槛，也能解放人力，提升工作效率。
• 09.07 18:23:54
  发表了文章 2023-09-07 18:23:54

  针对OSS数据集成场景下的功能全面优化【Dataphin V3.12]

  OSS（Object Storage Service）是对象存储服务，适用于存放各种文件类型，Dataphin已经支持连接到OSS进行文件数据的读取与写入。本期版本升级中，Dataphin对于OSS的数据同步场景做了全面的功能升级，包括数据源、输入组件与数据组件，一起来了解一下吧～
• 09.07 11:38:25
  发表了文章 2023-09-07 11:38:25

  Dataphin依赖周期和依赖策略详解

  Dataphin依赖周期和依赖策略详解
• 09.04 20:15:03
  发表了文章 2023-09-04 20:15:03

  数据质量最佳实践（5）：利用质量分和排行榜提升企业数据质量【Dataphin V3.12】

  在数据质量最佳实践（3）：通过质量治理工作台，实现质量问题的跟踪和处理这篇文章中，我们详细的介绍了如何通过治理工作台，对系统出现的一个一个具体质量问题进行治理。 但是对于企业整体的数据质量情况，我们该如何评估呢？以及如何寻找当前企业的数据质量短板，并有针对性的进行改进和提升呢？ 在Dataphin V3.12版本中，质量新增了质量分的能力，可以给数据表和质量规则配置打分权重和打分方式，从而获得全局、数据源、项目、负责人、数据表等维度的质量打分评估，帮助CDO判断企业整体的数据质量情况和数据质量问题的分布，从而有针对性的提升企业整体的数据质量水平。
• 09.04 15:42:41
  发表了文章 2023-09-04 15:42:41

  瓴羊Dataphin调度性能突破「千万级」，数据处理更快更稳

  升级后的Dataphin V3.11版本，可以在24小时内完成3800万的实例调度，较之前的V3.9版本，取得了显著的优化成果，整体提升25.4倍，可支持超复杂依赖关系，比如在宽度100万，深度20，以及宽度20，深度一百万的2类调度测试场景中，全链路调度耗时有明显减少，即席查询性能提升也十分明显。

2023年08月

• 08.11 17:37:43
  发表了文章 2023-08-11 17:37:43

  隐私计算最佳实践（1）：如何基于Dataphin隐私计算实现广告精准营销、用户促活

  我们在享受数据便利的同时，数据隐私安全问题也成为了困扰。Dataphin隐私计算可以帮助企业在遵循法律法规的要求下，既充分发挥数据的价值，同时又不会影响用户的数据隐私安全。

  
• 08.11 14:28:04
  发表了文章 2023-08-11 14:28:04

  数据治理利器Dataphin：数据安全管理3步走，保障全链路数据安全（V3.11版本）

  瓴羊Dataphin（智能数据建设与治理），一直在探索数据安全管理能力的产品化最佳实践，即如何帮助企业利用产品工具能力，基于法律法规、主管部门要求和自身行业和业务的需要，建立起规范的分级分类制度，并对敏感数据制定相应的保护策略。企业通过Dataphin构建起合规的数据安全体系，将数据安全风险降至最低，让数据资产在安全合规的基础上，得到最大的价值释放。
• 08.03 10:59:50
  发表了文章 2023-08-03 10:59:50

  瓴羊Dataphin升级V3.11，新上线数据分析、隐私计算平台促进数据流通消费

  瓴羊旗下开发云核心产品Dataphin（智能数据建设与治理）近期升级到V3.11版本，全新上线Notebook数据分析空间，以及Dataphin隐私计算平台，在数据采、建、管、用的基础上，进一步强化数据消费和数据流通能力，帮助企业用标准化的产品能力，在大数据时代构建起生产经济、质量可靠、安全稳定、消费便捷的企业级数据资产，促进数据价值释放。

2023年07月

• 07.28 15:37:38
  发表了文章 2023-07-28 15:37:38

  Dataphin V3.11版本发布啦！多项能力升级，助力企业提升全链路数据治理能力！

  Dataphin V3.11 版本，全新上线隐私计算平台、数据分析平台、资产专题，SQL 编辑也做了重大改进优化。为企业建设贯穿事前、事中、事后的全链路数据治理能力添砖加瓦，助力提升资产价值。 在下一个版本中，还有很多其他新增能力与功能升级，敬请期待。

  
• 07.19 17:09:01
  发表了文章 2023-07-19 17:09:01

  数据质量最佳实践（4）：支持范围和多级分区质量监控+按项目和个人管理数据质量【Dataphin V3.11】

  在Dataphin数据治理系列：基于数据质量管理，支撑业务快速发展这篇文章中，我们详细的介绍了Dataphin数据质量模块的产品核心能力和产品使用演示。 在Dataphin V3.11版本中，质量新增了下面两个能力： 1、针对复杂的业务分区的校验能力 2、按照项目和个人管理数据质量
• 07.18 20:58:11
  发表了文章 2023-07-18 20:58:11

  Dataphin资产专题助力您打造精品数据

  随着数据量的不断增长以及消费场景的多样化，当前单一的数据目录已经很难满足数据管理者和消费者对于资产管理和查找的需求。 种种困难和吐槽的背后，核心原因是缺少一套有效的资产管理及运营体系，数据难以与业务形成有效连接，数据资产价值无法发挥放大。基于此背景，Dataphin 全新推出资产专题功能，希望打造面向主题的精品数据资产建设和运营生态，提升数据生产者和消费者的工作效率。 通过专题，您可以灵活高效地组织、管理并运营精品数据资产，交流并沉淀业务知识，形成数据与业务更多更强的连接，让数据更好地驱动业务。
• 07.18 17:59:30
  发表了文章 2023-07-18 17:59:30

  数据服务最佳实践（2）：利用API的多版本管理能力提升API管理效率【Dataphin V3.11】

  在DataphinV3.11版本中，Dataphin支持了API开发多版本管理，对API变更过程进行记录和维护，便于追溯历史版本和保障下游调用不受影响。
• 07.18 11:14:25
  发表了文章 2023-07-18 11:14:25

  数据服务最佳实践（1）：支持注册外部API，打造企业数据服务中心【Dataphin V3.11】

  在DataphinV3.11版本中，我们支持了注册外部API的能力，用于支持客户统一管理企业所有的API，打造企业的数据服务中心。API注册到Dataphin之后，可以由Dataphin统一纳管，和其他方式创建的API共用相同的服务市场、权限管控、运维监控能力。 同时我们支持了Json文本解析能力，支持编写类似正则表达式的语法定义注册API返回参数的取值路径，满足企业自定义取数的场景。
• 07.17 21:25:57
  发表了文章 2023-07-17 21:25:57

  数据标准应用（三）：数据标准落标监控-下篇

  数据标准创建完成后，需要指定其关联的资产对象才能发挥应用价值。数据标准和资产对象的映射关系通过落标映射规则来管理，对象是否遵循了映射到的标准定义则通过落标监控规则来判断。本文为您介绍落标监控评估的基本概念和监控逻辑。Dataphin 支持通过定义标准属性和资产对象元数据字段之间的匹配关系，自动生成数据标准和资产对象的映射关联；针对已确定的映射关系，可结合数据标准的定义对关联的资产对象进行落标监控，包括元数据监控和内容质量监控。上篇，我们为大家介绍了数据标准监控的分类和配置方式，本期我们将为您介绍配置好的落标监控如何生效以及如何查看监控结果。
• 07.11 19:02:55
  发表了文章 2023-07-11 19:02:55

  离线整库迁移功能升级 【Dataphin V3.11】

  企业首次上云的时候，会有数据表批量同步与同步增全量数据的需求，Dataphin的离线整库迁移提供了生成批量集成管道任务的途径，适用于该场景。在Dataphin V3.11中，整库迁移功能在目标表重名检查与同步方式上都做了功能升级，一起来了解一下吧~
• 07.11 15:23:02
  发表了文章 2023-07-11 15:23:02

  数据集成：针对离线集成任务超时的优化策略【Dataphin V3.11】

  集成任务作为数据中台和外部数据库链接的数据桥梁，常常需要应对与处理复杂的外部数据库与网络环境。一旦外部的数据库出现异常，集成任务就会卡在某个状态：如一直在尝试与数据库连接，或者在数据库过载的时候还在一直在尝试执行SQL……这些异常状态都会导致集成任务无法长时间卡住，无法完成。
• 07.06 16:51:08
  发表了文章 2023-07-06 16:51:08

  Dataphin上线全新模块-分析平台【V3.11】

  分析平台是Dataphin V3.11推出的全新模块，旨在为各个角色的数据工作者提供一个便捷高效的数据查询与分析平台。本期分析模块上线了Notebook，一个集文本、SQL代码与查询结果于一体的交互式数据分析笔记本，全面提升取数体验。
• 07.04 15:26:34
  发表了文章 2023-07-04 15:26:34

  数据安全最佳实践（7）：通过多级安全分类构建业务安全体系【Dataphin V3.11】

  在DataphinV3.11版本中，我们支持了构建多级安全分类体系的能力，用于支持客户定制和使用行业化的数据分类分级体系。 同时我们支持了识别特征的管理，可以使用内置的手机、姓名等识别特征；也在安全模型中内置了通用行业模型，便于客户直接应用，实现对大部分个人敏感数据和部分业务数据的识别和保护。