1.2.1 恢复策略有几种
jobmanager.execution.failover-strategy: region
- 局部策略 region
- 全部策略 full 流处理作业是这种
1.2.2 恢复的方式
- 默认会丢失状态重新计算
- 打开cp恢复状态续跑
- 打开保留cp文件选项 基于cp升级作业
- 触发sp 基于sp升级作业
大数据—Flink深入学习
2021-11-12
136
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
简介：
1.容错机制
相关实践学习
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品，是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法，从场景到实践，体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库，助力开发者学习了解先进的技术栈，并能在实际业务中敏捷的进行大数据分析，赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景，可应用MaxCompute实现数仓搭建，快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理，需要搭建数据仓库？学它！ 没有足够人员和经验来运维大数据平台，不想自建IDC买机器，需要免运维的大数据平台？会SQL就等于会大数据？学它！ 想知道大数据用得对不对，想用更少的钱得到持续演进的数仓能力？获得极致弹性的计算资源和更好的性能，以及持续保护数据安全的生产环境？学它！ 想要获得灵活的分析能力，快速洞察数据规律特征？想要兼得数据湖的灵活性与数据仓库的成长性？学它！ 出品人：阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps
目录
相关文章
|
16天前
|
分布式计算
大数据
Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
49
2
2
|
1月前
|
数据采集
数据可视化
大数据
|
17天前
|
分布式计算
大数据
OLAP
AnalyticDB与大数据生态集成：Spark & Flink
【10月更文挑战第25天】在大数据时代，实时数据处理和分析变得越来越重要。AnalyticDB（ADB）是阿里云推出的一款完全托管的实时数据仓库服务，支持PB级数据的实时分析。为了充分发挥AnalyticDB的潜力，将其与大数据处理工具如Apache Spark和Apache Flink集成是非常必要的。本文将从我个人的角度出发，分享如何将AnalyticDB与Spark和Flink集成，构建端到端的大数据处理流水线，实现数据的实时分析和处理。
48
1
1
|
3天前
|
消息中间件
运维
大数据
大数据实时计算产品的对比测评：实时计算Flink版 VS 自建Flink集群
本文介绍了实时计算Flink版与自建Flink集群的对比，涵盖部署成本、性能表现、易用性和企业级能力等方面。实时计算Flink版作为全托管服务，显著降低了运维成本，提供了强大的集成能力和弹性扩展，特别适合中小型团队和业务波动大的场景。文中还提出了改进建议，并探讨了与其他产品的联动可能性。总结指出，实时计算Flink版在简化运维、降低成本和提升易用性方面表现出色，是大数据实时计算的优选方案。
19
0
0
|
25天前
|
存储
SQL
分布式计算
|
1月前
|
分布式计算
大数据
Linux
大数据体系知识学习（二）：WordCount案例实现及错误总结
这篇文章介绍了如何使用PySpark进行WordCount操作，包括环境配置、代码实现、运行结果和遇到的错误。作者在运行过程中遇到了Py4JJavaError和JAVA_HOME未设置的问题，并通过导入findspark初始化和设置环境变量解决了这些问题。文章还讨论了groupByKey和reduceByKey的区别。
26
1
1
|
1月前
|
分布式计算
Hadoop
大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
53
1
1
|
1月前
|
消息中间件
分布式计算
Kafka
|
2月前
|
运维
数据处理
数据安全/隐私保护
阿里云实时计算Flink版测评报告
该测评报告详细介绍了阿里云实时计算Flink版在用户行为分析与标签画像中的应用实践，展示了其毫秒级的数据处理能力和高效的开发流程。报告还全面评测了该服务在稳定性、性能、开发运维及安全性方面的卓越表现，并对比自建Flink集群的优势。最后，报告评估了其成本效益，强调了其灵活扩展性和高投资回报率，适合各类实时数据处理需求。
98
12
12
|
15天前
|
存储
分布式计算
流计算
实时计算 Flash – 兼容 Flink 的新一代向量化流计算引擎
本文介绍了阿里云开源大数据团队在实时计算领域的最新成果——向量化流计算引擎Flash。文章主要内容包括：Apache Flink 成为业界流计算标准、Flash 核心技术解读、性能测试数据以及在阿里巴巴集团的落地效果。Flash 是一款完全兼容 Apache Flink 的新一代流计算引擎，通过向量化技术和 C++ 实现，大幅提升了性能和成本效益。
679
10
11
热门文章
最新文章
1
使用MaxCompute访问TableStore（OTS） 简明手册
2
Hadoop迁移MaxCompute神器之DataX-On-Hadoop使用指南
3
丰富、连接、待集成—MaxCompute 生态再出发
4
日交易笔百万级，Ping++的大数据平台架构
5
利用大数据分析挖掘出的五大安全线索
6
湖北省加快推进云计算标准化促大数据产业发展
7
「镁客·请讲」百融金服张韶峰：为迎接大数据金融的风口，我们已准备了8年
8
让大数据变成智慧数据
9
2020阿里巴巴大数据技术公开课第五季 — SaaS模式云数据仓库MaxCompute开发实战与常见问题
10
胖子哥的大数据之路（三）- 数据仓库的需求分析该怎么做
1
概述Flink API中的4个层次
45
2
Flink CDC：基于 Apache Flink 的流式数据集成框架
18201
3
Flink+Paimon在阿里云大数据云原生运维数仓的实践
18507
4
【邀请函】相约CommunityOverCode Asia 2024，共探Flink、Paimon、Celeborn开源新境界！
618
5
Java中的流处理框架：Kafka Streams与Flink
140
6
Hologres+Flink企业级实时数仓核心能力介绍
77031
7
深度分析：Apache Flink及其在大数据处理中的应用
341
8
贝壳找房基于Flink+Paimon进行全量数据实时分组排序的实践
28777
9
Flink中异步AsyncIO的实现 (源码分析)
50
10
实时计算 Flink版操作报错合集之从 PostgreSQL 读取数据并写入 Kafka 时，遇到 "initial slot snapshot too large" 的错误，该怎么办
1010