调试阶段

本文涉及的产品
实时计算 Flink 版,1000CU*H 3个月
简介:

数据开发为您提供了一套模拟的运行环境(如下图),您可以在调试环境中自定义上传数据,模拟运行,检查输出结果。业务逻辑完成后,模拟运行步骤如下。

语法检查

自动检测SQL中是否有语法错误。检测结果能够显示出错误SQL语句以及错误信息。

15

作业调试

作业调试步骤如下。

  1. 自行构建测试数据。
  2. 从数据源表中抽取数据。实时计算支持两种抽取模式。随机抽取数据模式和顺序抽取数据模式。

    注意:

    1. 必须是用了数据存储中注册功能才可以使用。
    2. 抽取数据建议使用纯文本。使用EXCEL可能导致数据测试不准确。
  3. 输出调试结果

16
876

与生产环境完全隔离

调试环境下,所有的Flink SQL将在独立的调试容器运行,且所有的输出将被直接改写到调试结果屏幕。不会对线上生产流实时计算作业、线上生产的数据存储系统造成任何影响。
数据调试实际上不会真正写入到外部数据存储,而是被实时计算拦截输出到屏幕。因此,在实时计算调试完成的代码是在调试容器中完成。

说明:线上运行过程中可能由于对目标数据存储写入格式的不同导致运行失败。这类错误在调试阶段无法完全规避,在线上运行时才能发现。例如,您将结果数据输出到RDS系统。其中某些字段输出字符串数据长度大于RDS建表最大值,在Debug环境下我们无法测试出该类问题。但实际生产运行过程中会有引发异常。后续,实时计算将提供针对本地调试运行,也支持写出到真实数据存储的功能.届时可以有效辅助您缩短调试和生产的差距,有助于在调试阶段解决问题。

83

支持构造测试数据

调试环境下,所有的Flink SQL运行均不会从源头数据存储系统读取数据,包括DataHub的流式输入、RDS等维表输入。调试环境需要您自行构建测试数据集,并将测试数据上传到数据开发
实时计算针对不同作业提供测试数据模板。您可以下载数据模板然后直接填写构造数据。建议您使用下载的数据模板构造数据,避免可能的格式错误。

调试分隔符

默认情况下,调试文件使用逗号作为分隔符。例如您构造了如下的测试文件。


 
 
  1. id,name,age
  2. 1,alicloud,13
  3. 2,stream,1

在不指定调试分隔符情况下,默认使用了逗号进行分隔。但如果您需要使用JSON文件作为字段内容,字段内容已经包含了逗号。此时您需要指定其他字符作为分隔符。

注意:流计算仅支持指定单个英文字符为分隔符,不允许字符串,例如不允许’aaa’作为分隔符。如下,


  
  
  1. id|name|age
  2. 1|alicloud|13
  3. 2|stream|1

此时您需要设置针对该作业的数据存储类型的参数,如下图。


 
 
  1. debug.input.delimiter = |
2134


本文转自实时计算——调试阶段

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
编解码 项目管理 开发工具
探寻最受欢迎的 Mac 系统开源免费软件
探寻最受欢迎的 Mac 系统开源免费软件
829 1
|
9月前
|
人工智能 开发者
【阅读十分钟,百分百成功】——通过大模型实现对客服回答的质量评估
本文章基于业务实践,总结有关客服质检场景的解决方案和处理经验,为相似场景提供可行的借鉴方法。
1250 121
|
人工智能 算法 大数据
懂场景者得AI,瓴羊发布年度产品智能化战略
9月20日,瓴羊智能科技(以下简称瓴羊)在2024云栖大会上举办了“Data × AI:企业服务智能化,价值增长新动能”专场论坛。阿里巴巴集团副总裁、瓴羊智能科技CEO 朋新宇在会上发布年度产品智能化战略:“(算法 + 算力 + 数据) x 场景 ”,强调企业必须重视场景,只有通过解构场景、重构业务,才能真正拥抱AI,带来突破性增长。
258 14
|
Kubernetes 负载均衡 API
在K8S中,Kube-proxy有什么功能?
在K8S中,Kube-proxy有什么功能?
|
Linux 网络安全
55Linux - 远程连接工具(SSHSecureShellClient乱码问题解决)
55Linux - 远程连接工具(SSHSecureShellClient乱码问题解决)
240 0
|
前端开发 Java
Java HotSpot(TM) 64-Bit Server VM warning
Java HotSpot(TM) 64-Bit Server VM warning
4511 1
|
Java Python
pycharm-ieda-phpstorm超级好用插件,一键解释代码
pycharm-ieda-phpstorm超级好用插件,一键解释代码
|
存储 数据采集 物联网
低代码与云服务开发相结合:重塑现代软件开发模式
随着数字化转型的深入推进,越来越多的企业开始将业务迁移到云端,以实现更高的灵活性、可靠性和成本效益。云服务已经成为企业数字化战略的重要组成部分。与此同时,低代码开发作为一种新兴的编程模式,也逐渐受到企业的关注。那么,当云服务遇到低代码开发,又会碰撞出怎样的火花呢?
154 4
|
SQL 关系型数据库 MySQL
MySQL数据库基础练习系列13、用户注册与登录系统
MySQL数据库基础练习系列13、用户注册与登录系统
98 1
|
分布式计算 安全 Hadoop
hdfs mkdir报错Cannot create directory /usr. Name node is in safe mode.
hdfs mkdir报错Cannot create directory /usr. Name node is in safe mode.
574 0

热门文章

最新文章