本讲义出自Arun Murthy在Hadoop Summit Tokyo 2016上的演讲，主要介绍了Arun Murthy与团队的从各种流使用中学习到的最佳实践和经验，演讲的内容非常简单易懂并且非常有趣，在演讲的最后还介绍了像搭乐高一样搭建Storm与Spark Streaming Pipelines块的相应工具。
【Hadoop Summit Tokyo 2016】像搭乐高一样搭建Storm与Spark Streaming Pipelines块
2017-03-02
2487
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
本讲义出自Arun Murthy在Hadoop Summit Tokyo 2016上的演讲，主要介绍了Arun Murthy与团队的从各种流使用中学习到的最佳实践和经验，演讲的内容非常简单易懂并且非常有趣，在演讲的最后还介绍了像搭乐高一样搭建Storm与Spark Streaming Pipelines块的相应工具。
目录
相关文章
|
28天前
|
分布式计算
Apache
数据安全/隐私保护
流计算引擎数据问题之在 Spark Structured Streaming 中水印计算和使用如何解决
流计算引擎数据问题之在 Spark Structured Streaming 中水印计算和使用如何解决
35
1
1
|
1月前
|
分布式计算
资源调度
测试技术
“Spark Streaming异常处理秘籍：揭秘如何驯服实时数据流的猛兽，守护你的应用稳如泰山，不容错过！”
【8月更文挑战第7天】Spark Streaming 是 Apache Spark 中的关键组件，用于实时数据流处理。部署时可能遭遇数据问题、资源限制或逻辑错误等异常。合理处理这些异常对于保持应用稳定性至关重要。基础在于理解其异常处理机制，通过 DSC 将数据流切分为 RDD。对于数据异常，可采用 try-catch 结构捕获并处理；资源层面异常需优化 Spark 配置，如调整内存分配；逻辑异常则需加强单元测试及集成测试。结合监控工具，可全面提升应用的健壮性和可靠性。
52
3
3
|
1月前
|
分布式计算
Hadoop
大数据
Spark 与 Hadoop 的大数据之战：一场惊心动魄的技术较量，决定数据处理的霸权归属！
【8月更文挑战第7天】无论是 Spark 的高效内存计算，还是 Hadoop 的大规模数据存储和处理能力，它们都为大数据的发展做出了重要贡献。
61
2
2
|
15天前
|
存储
分布式计算
资源调度
Hadoop生态系统概览：从HDFS到Spark
【8月更文第28天】Hadoop是一个开源软件框架，用于分布式存储和处理大规模数据集。它由多个组件构成，旨在提供高可靠性、高可扩展性和成本效益的数据处理解决方案。本文将介绍Hadoop的核心组件，包括HDFS、MapReduce、YARN，并探讨它们如何与现代大数据处理工具如Spark集成。
42
0
0
|
2月前
|
分布式计算
Hadoop
大数据
Hadoop与Spark在大数据处理中的对比
【7月更文挑战第30天】Hadoop和Spark在大数据处理中各有优势，选择哪个框架取决于具体的应用场景和需求。Hadoop适合处理大规模数据的离线分析，而Spark则更适合需要快速响应和迭代计算的应用场景。在实际应用中，可以根据数据处理的需求、系统的可扩展性、成本效益等因素综合考虑，选择适合的框架进行大数据处理。
72
2
2
|
23天前
|
分布式计算
Hadoop
大数据
大数据处理框架在零售业的应用：Apache Hadoop与Apache Spark
【8月更文挑战第20天】Apache Hadoop和Apache Spark为处理海量零售户数据提供了强大的支持
32
0
0
|
2月前
|
分布式计算
监控
数据处理
Spark Streaming：解锁实时数据处理的力量
【7月更文挑战第15天】Spark Streaming作为Spark框架的一个重要组成部分，为实时数据处理提供了高效、可扩展的解决方案。通过其微批处理的工作模式和强大的集成性、容错性特性，Spark Streaming能够轻松应对各种复杂的实时数据处理场景。然而，在实际应用中，我们还需要根据具体需求和资源情况进行合理的部署和优化，以确保系统的稳定性和高效性。
74
6
6
|
3月前
|
分布式计算
资源调度
Hadoop
|
2月前
|
分布式计算
Apache
Spark
|
3月前
|
分布式计算
资源调度
Java
Scala+Spark+Hadoop+IDEA实现WordCount单词计数，上传并执行任务（简单实例-下）
Scala+Spark+Hadoop+IDEA实现WordCount单词计数，上传并执行任务（简单实例-下）
37
0
0