备案控制台
探索云世界
开发者社区 大数据 文章 正文

Spark高可用集群搭建HA

2022-11-10 85
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： Spark高可用集群搭建HA

spark2.4.4-hadoop2.7 请对用好你的版本


准备好6台机器 一台master 6台worker

解压完成后

进入conf目录 修改两个文件


1.spark-env.sh

export JAVA_HOME=/usr/java/jdk1.8.0_231
export SPARK_MASTER_HOST=spark00
export SPARK_MASTER_PORT=7077
export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=spark00:2181,spark01:2181,spark02:2181 -Dspark.deploy.zookeeper.dir=/spark"


2.拷贝到所有的机器

文章标签：
分布式计算
Spark
关键词：
apache spark集群
apache spark集群搭建
wyn-365
目录
相关文章
阿甘兄
|
5月前
|
分布式计算 Linux Spark
179 Spark集群安装
179 Spark集群安装
阿甘兄
36 0
Maynor
|
4月前
|
分布式计算 监控 Java
Note_Spark_Day02：Standalone集群模式和使用IDEA开发应用程序
Note_Spark_Day02：Standalone集群模式和使用IDEA开发应用程序
Maynor
51 0
程序员朱永胜
|
7月前
|
分布式计算 大数据 Spark
基于Docker搭建大数据集群（四）Spark部署
基于Docker搭建大数据集群（四）Spark部署
程序员朱永胜
167 1
jerrywangsap
|
2月前
|
分布式计算 数据处理 Scala
Spark 集群和 Scala 编程语言的关系
Spark 集群和 Scala 编程语言的关系
jerrywangsap
29 0
北惜
|
6月前
|
分布式计算 资源调度 Hadoop
Spark on Yarn集群模式搭建及测试
Spark on Yarn集群模式搭建及测试
北惜
156 0
赵广陆
|
7月前
|
分布式计算 资源调度 监控
Spark Yarn模式部署集群
Spark Yarn模式部署集群
赵广陆
49 1
赵广陆
|
7月前
|
分布式计算 监控 大数据
大数据Spark Standalone集群 2
大数据Spark Standalone集群
赵广陆
44 0
赵广陆
|
7月前
|
存储 分布式计算 资源调度
大数据Spark Standalone集群 1
大数据Spark Standalone集群
赵广陆
64 0
卑微的Coder
|
9月前
|
机器学习/深度学习 存储 分布式计算
spark集群 分类器 部署
spark集群 分类器 部署
卑微的Coder
74 0
不懂开发的程序猿
|
11月前
|
存储 分布式计算 资源调度
Spark集群环境搭建（standalone模式）
Spark集群环境搭建（standalone模式）
不懂开发的程序猿
407 0

热门文章

最新文章

  • 1
    【Flink】Flink跟Spark Streaming的区别？
  • 2
    大数据技术与Python：结合Spark和Hadoop进行分布式计算
  • 3
    Paimon与Spark
  • 4
    Spark【环境搭建 01】spark-3.0.0-without 单机版（安装+配置+测试案例）
  • 5
    bigdata-36-Spark转换算子与动作算子
  • 6
    图解大数据 | 使用Spark分析新冠肺炎疫情数据@综合案例
  • 7
    Spark 源码分析 -- BlockStore
  • 8
    BR-MLP基于spark+Hadoop分布式数据挖掘解决方案功能剖析
  • 9
    地铁译：Spark for python developers --- 搭建Spark虚拟环境3
  • 10
    Spark RDD类源码阅读
  • 1
    Spark学习---SparkSQL（概述、编程、数据的加载和保存、自定义UDFA、项目实战）
    109
  • 2
    安装Spark
    35
  • 3
    Spark学习---day07、Spark内核（Shuffle、任务执行）
    41
  • 4
    Spark读取变更Hudi数据集Schema实现分析
    37
  • 5
    实战|使用Spark Streaming写入Hudi
    46
  • 6
    adb spark的lakehouse api访问内表数据，还支持算子下推吗
    107
  • 7
    Spark学习---day06、Spark内核（源码提交流程、任务执行）
    41
  • 8
    Spark学习--day05、SparkCore电商网站实操、SparkCore-工程代码
    66
  • 9
    Spark【Spark学习大纲】简介+生态+RDD+安装+使用（xmind分享）
    32
  • 10
    Spark【基础知识 03】【RDD常用算子详解】（图片来源于网络）
    57

    • 相关课程

    更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第六阶段
  • 大数据实时计算框架Spark快速入门

    • 相关电子书

    更多
  • Hybrid Cloud and Apache Spark
  • Scalable Deep Learning on Spark
  • Comparison of Spark SQL with Hive
    • 下一篇
    部署LAMP环境（Alibaba Cloud Linux 3）