阿里云流计算新手任务二(二)|学习笔记

本文涉及的产品
RDS AI 助手,专业版
RDS MySQL DuckDB 分析主实例,基础系列 4核8GB
RDS MySQL DuckDB 分析主实例,集群系列 4核8GB
简介: 快速学习阿里云流计算新手任务二(二)

开发者学堂课程【阿里云流计算使用教程阿里云流计算新手任务二(二)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/432/detail/5382


阿里云流计算新手任务二(二)

 (2)点击 RDS 中注册数据存储,区域选择华北2,输入刚生成的示例 ID,输入名字 test_03,用户名以及密码,注册即可。

(3)以上 Datahub 和 RDS 注册成功,接下来进入开发阶段。新建一张表叫 test_03,新建成功,选中数据存储先找到 Datahub 中的 test_03,将 Datahub 中的源表作为输入表引用,数据自动生成。

(4)找到 RDS 中的 test_03,将这张表作为结果表引用,也会自动生成信息,可以从表中可以看出源表的字段和结果表的自段,类型、引用地址、账号、密码、引用结果表和源表表名等等。

(5)将计算逻辑写入,这样整个调试结束。

(6)整个测试逻辑是:

创建源表、创建结果表、计算逻辑。为了更方便更直观在控制台上看到整个数据流程,先写了测试数据,这个测试数据不会和运维空间有任何关系,因为开发和运维是两个独立的空间。

(7)点击调试,选择上传数据,可以从数据预览中看到整个数据,点击调试,得到调试结果。

阿里云流计算在计算数据时,会将整个数据运算过程全部打印在控制台,无论是真实数据还是测试都是一样的。到后期存储时,会经过下游的设置,对数据进行踢重,最后保留在数据库中的数据可能仅有1个。

(8)点击上线,上线成功后,点击运维,跳转到运维页面,可以看到作业名称等信息,点击启动。显示运行后启动成功,点击查看。

(9)显示运行后启动成功,点击查看。进入到真正运维空间,可以看大盘作业仪表盘,作业上下游等,刚才已经将 Datahub 中数据上线到真正开发环境中,现在的 datahub 表中是没有数据的,刚才只是在开发中测试的一个数据,现在要将真实数据上传到 datahub 中去。

(10)点击数据采集中的文件上传,选择 teat_03,可以看到创建时间、修改时间等等,但是没有数据,选择需要上传的数据,点击上传文件。

跳回到 RDS 页面,找到数据库,查看是否将信息写入其中。

在数据库中成功显示结果500,并没有像之前开发一样逐条打印信息,而是只打印了最终结果,是因为到了下游经过存储设置,进行数据踢重,最后将数据库中的数据保存到 RDS 中。


二 、最佳实践

隔离:开发和生产运行隔离,避免线上影响。

调试:多用调试诊断问题,可有效避免简单逻辑错误。

预发:不在现有作业修改逻辑,新建作业预发上线。

 

三、生产运维

在生产运维时,会产生大的数据显示,图表显示,会产生以下问题。

业务延时

反映当前处理的数据到哪儿了?

计算耗时

反映流计算处理一条数据平均耗时

数据输入

当前读取上游数据的性能

数据输出

当前写出下游数据的性能

总结:

在大的开发运维页面中,大概有15种数据显示,实时显示数据显示情况。

如下:

1.异常检测:提供底层 Java 运行异常信息

2.数据倾斜:同一阶段节点数据是否分配均匀

3.资源消耗:当前作业任务消耗的资源

4.并发配置:并发数/CU 数比率,合理的区域范围在【5-50】之间

5.业务延迟:当前数据时间-数据产生时间=业务延时,业务延迟越低越好

6.计算耗时:处理一批流数据平均耗时

7.数据输入:数据源输入表的 RPS 统计

8.数据输出:输出表的 RPS 统计

9.CPU 占用:作业的 CPU 占用的情况

10.内存占用:当前单个 Worker 内存使用量

11.维表 RT:每次读取维表数据的 RT,单位为毫秒,维表是源表的关联表

12.源表 RT:每次读取源头数据的 RT,单位为毫秒

13.维表的命中率:JOIN 关联命中在 Cache 的比率,太低会极大影响性能

14.维表关联率:关联查询成功的数据百分比,为0代表全部关联失败

15.源表脏数据:源表读取数据出现脏数据

最佳实践

持续运行:相比于离线,流式作业不存在完毕或者退出情况!

检测错误:当有错误发生时,作业会处理延迟。

设立告警机制:配置延时监控,当延时过大自动触发告警。

多看大盘和文档:阿里云流计算提供了丰富的运维指标和性能文档。

相关文章
|
存储 人工智能 索引
【数据结构】树状数组和线段树
【数据结构】树状数组和线段树
277 0
|
机器学习/深度学习 PyTorch 算法框架/工具
【PyTorch实战演练】使用Cifar10数据集训练LeNet5网络并实现图像分类(附代码)
【PyTorch实战演练】使用Cifar10数据集训练LeNet5网络并实现图像分类(附代码)
956 0
|
存储 机器学习/深度学习 SQL
大数据处理与分析技术
大数据处理与分析技术
1176 138
|
存储 物联网 调度
操作系统的心脏:内核深度解析
在数字世界的构建中,操作系统扮演着基石的角色,而其核心—内核,则是这一复杂系统的灵魂。本文将深入探讨操作系统内核的工作原理,揭示它是如何管理硬件资源、运行程序以及提供系统服务的。通过理解内核的结构和功能,我们可以更好地把握计算机系统的运作机制,进而优化和创新我们的技术实践。
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
12月前
|
存储 人工智能 iOS开发
Apple Logic Pro 11.2 发布 - 专业音乐制作 (音频编辑)
Apple Logic Pro 11.2 发布 - 专业音乐制作 (音频编辑)
333 1
|
Java 区块链 网络架构
酷阿鲸森林农场:Java 区块链系统中的 P2P 区块同步与节点自动加入机制
本文介绍了基于 Java 的去中心化区块链电商系统设计与实现,重点探讨了 P2P 网络在酷阿鲸森林农场项目中的应用。通过节点自动发现、区块广播同步及链校验功能,系统实现了无需中心服务器的点对点网络架构。文章详细解析了核心代码逻辑,包括 P2P 服务端监听、客户端广播新区块及节点列表自动获取等环节,并提出了消息签名验证、WebSocket 替代 Socket 等优化方向。该系统不仅适用于农业电商,还可扩展至教育、物流等领域,构建可信数据链条。
|
Go
【微信公众号】基于golang的公众号开发基本配置
【微信公众号】基于golang的公众号开发基本配置
451 0
|
机器学习/深度学习 计算机视觉
目标检测笔记(六):如何结合特定区域进行目标检测(基于OpenCV的人脸检测实例)
本文介绍了如何使用OpenCV进行特定区域的目标检测,包括人脸检测实例,展示了两种实现方法和相应的代码。
568 1
目标检测笔记(六):如何结合特定区域进行目标检测(基于OpenCV的人脸检测实例)

热门文章

最新文章