AI 助理
备案控制台
开发者社区 大数据 文章 正文

【大数据环境准备】（三）Hadoop安装（上）

2023-08-28 99
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生大数据计算服务 MaxCompute，5000CU*H 100GB 3个月
日志服务 SLS，月写入数据量 50GB 1个月
云原生大数据计算服务MaxCompute，500CU*H 100GB 3个月
简介： Hadoop安装（上） 环境安装

设置环境

1、解压

[centos@localhost data]$ tar -zxvf hadoop-3.1.3.tar.gz -C /data/module/
[centos@localhost data]$ mv hadoop-3.1.3 /data/moudle/hadoop

2、添加Hadoop环境

[centos@localhost data]$ sudo vim /etc/profile.d/my_env.sh

3、在profile文件末尾添加JDK路径：这边可能需要root权限才能更改

#HADOOP_HOME
export HADOOP_HOME=/data/module/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin

配置集群

1)核心配置文件

配置core-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- 指定NameNode的地址 -->
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://hadoop10:8020</value>
</property>
<!-- 指定hadoop数据的存储目录 -->
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/data/module/hadoop/data</value>
</property>

<!-- 配置HDFS网页登录使用的静态用户为centos -->
    <property>
        <name>hadoop.http.staticuser.user</name>
        <value>centos</value>
</property>

<!-- 配置该centos(superUser)允许通过代理访问的主机节点 -->
    <property>
        <name>hadoop.proxyuser.centos.hosts</name>
        <value>*</value>
</property>
<!-- 配置该centos(superUser)允许通过代理用户所属组 -->
    <property>
        <name>hadoop.proxyuser.centos.groups</name>
        <value>*</value>
</property>
<!-- 配置该centos(superUser)允许通过代理的用户-->
    <property>
        <name>hadoop.proxyuser.centos.users</name>
        <value>*</value>
</property>
</configuration>

2）HDFS配置文件
配置hdfs-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- nn web端访问地址-->
    <property>
        <name>dfs.namenode.http-address</name>
        <value>hadoop10:9870</value>
    </property>
    
    <!-- 2nn web端访问地址-->
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>hadoop11:9868</value>
    </property>
    
    <!-- 测试环境指定HDFS副本的数量1  -->
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
</configuration>

3）YARN配置文件
配置yarn-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- 指定MR走shuffle -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    
    <!-- 指定ResourceManager的地址-->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoop12</value>
    </property>
    
    <!-- 环境变量的继承 -->
    <property>
        <name>yarn.nodemanager.env-whitelist</name>
        <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>
    
    <!--yarn单个容器允许分配的最大最小内存 -->
    <property>
        <name>yarn.scheduler.minimum-allocation-mb</name>
        <value>512</value>
    </property>
    <property>
        <name>yarn.scheduler.maximum-allocation-mb</name>
        <value>4096</value>
    </property>
    
    <!-- yarn容器允许管理的物理内存大小 -->
    <property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>4096</value>
    </property>
    
    <!-- 关闭yarn对物理内存和虚拟内存的限制检查 -->
    <property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>true</value>
    </property>
    <property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
    </property>
</configuration>

4）MapReduce配置文件
配置mapred-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- 指定MapReduce程序运行在Yarn上 -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

5）配置workers

[centos@localhost hadoop]$ vim workers
[centos@localhost hadoop]$ cat workers
hadoop10
hadoop11

配置历史服务器

查看历史运行情况,需要配置历史服务器.具体步骤如下

配置mapred-site.xml 在该文件中追加如下配置

<!-- 历史服务器端地址 -->
<property>
    <name>mapreduce.jobhistory.address</name>
    <value>hadoop10:10020</value>
</property>

<!-- 历史服务器web端地址 -->
<property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>hadoop10:19888</value>
</property>

配置日志聚集功能

日志聚集概念：应用运行完成以后，将程序运行日志信息上传到HDFS系统上。
日志聚集功能好处：可以方便的查看到程序运行详情，方便开发调试。
注意：开启日志聚集功能，需要重新启动NodeManager 、ResourceManager和HistoryManager。

1、配置yarn-site.xml

<!-- 开启日志聚集功能 -->
<property>
    <name>yarn.log-aggregation-enable</name>
    <value>true</value>
</property>

<!-- 设置日志聚集服务器地址 -->
<property>  
    <name>yarn.log.server.url</name>  
    <value>http://hadoop10:19888/jobhistory/logs</value>
</property>

<!-- 设置日志保留时间为7天 -->
<property>
    <name>yarn.log-aggregation.retain-seconds</name>
    <value>604800</value>
</property>

一)分发Hadoop

$ xsync /opt/module/hadoop/

1、启动集群

如果是第一次启动,需要在hadoop10节点格式化NameNode(格式化之前一定要停止上次启动的所有namenode和datanode进程,然后再删除data和log数据)

[centos@hadoop10 hadoop]$ bin/hdfs namenode -format

2、启动HDFS

[centos@hadoop10 hadoop]$ sbin/start-dfs.sh
Starting namenodes on [hadoop10]
hadoop10: Permission denied (publickey,gssapi-keyex,gssapi-with-mic,password).
Starting datanodes
hadoop10: Permission denied (publickey,gssapi-keyex,gssapi-with-mic,password).
hadoop11: WARNING: /data/module/hadoop/logs does not exist. Creating.
Starting secondary namenodes [hadoop11]
主机没有权限,master需要对自己免密登录
[centos@hadoop10 hadoop]$ ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/home/centos/.ssh/id_rsa):
/home/centos/.ssh/id_rsa already exists.
Overwrite (y/n)?
[centos@hadoop10 hadoop]$ ssh-copy-id centos@hadoop10
/usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/home/centos/.ssh/id_rsa.pub"
/usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed
/usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys
centos@hadoop10's password:

Number of key(s) added: 1

Now try logging into the machine, with:   "ssh 'centos@hadoop10'"
and check to make sure that only the key(s) you wanted were added.

[centos@hadoop10 hadoop]$ cd ~/.ssh/
[centos@hadoop10 .ssh]$ ll
总用量 16
-rwxrwxrwx. 1 centos centos  820 8月  17 07:00 authorized_keys
-rw-------. 1 centos centos 1679 8月  16 06:44 id_rsa
-rw-r--r--. 1 centos centos  410 8月  16 06:44 id_rsa.pub
-rw-r--r--. 1 centos centos  368 8月  16 07:28 known_hosts
[centos@hadoop10 .ssh]$ cat authorized_keys
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQDLI9fogg2g+VXcu/HulYnDnUuCJphcg3Rrh347v7C80YeQIsXxeQgiORia/j9jsWLzIm6hkMGpYdaeqmXbsiNrKtKLSIM8Xv5U79/0HsMvqf7LRpdxDCRn3wtqnIIXKcF7+EDAnvdTj4bNsD9SV49gl+YRD1E7O0bb6KJEUA+xqWilRt6trh97RHtYpYadiSP6ztT+4Ah7QBX7fJa/JD71g/VymRcSIGlaAtTDHcU1+VgdZSs62+hP0yzo8lEKrHOo/KJeY2GdmsMolQhLEO7KGNAjnO7q6gLr8FF4jKjculaaRsJOMy8QsNIDZawLK0Yo00msEpBRm6pDjcdl6WH3 centos@localhost.localdomain
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQCoow0BXfwFzNOIVaaEE4pyHtGkS9PgB9+THm4tHy2mKg5fBj3ewou0VAPWkp7RwZQUX61mX9QJ1ZbzfESYe6KZQ6GMx3cBwP2qlaxQjQQmBu0aGkETdQ9pexAteGK9IjlgQ7qa1vN3U9jUOjJzXMXIVYW/hhxHL1tY9Mj8rj2L4gJfxxZnt9xbPdz7uiFgpQ1PYqH9KrA4kiKd0s730xZtnaiPI782aOmuVA75INBiZcpuw6QFgBmTDqjpSohAhCInoXNY3Mk1aqFR7OUK4k2E3IH2AVlr5xdpVAd3VwNrJMINJQ8NrrPBA/sF8xnUdy4gRt2UE88npsRhepN//cJV centos@localhost.localdomain
[centos@hadoop10 .ssh]$
[centos@hadoop10 hadoop]$ cd ~/.ssh/
[centos@hadoop10 .ssh]$ chmod 600 authorized_keys

第二种可能防火墙

3、在配置了ResourceManager 节点11 启动YARN

[centos@hadoop10 hadoop]$ start-yarn.sh

4、web端查看HDFS 页面 http://hadoop10:9870

防火墙端口未开

[root@localhost hadoop]# firewall-cmd --zone=public --add-port=9870/tcp --permanent
success
[root@localhost hadoop]# firewall-cmd --reload
success
[root@localhost hadoop]# firewall-cmd --list-ports
8848/tcp 9870/tcp

可以使用Ambari、Ganglia、Nagios等工具进行监控。

  • 监控HDFS和YARN的运行情况
[centos@hadoop10 hadoop]$ sbin/stop-yarn.sh
[centos@hadoop10 hadoop]$ sbin/start-yarn.sh

需要重新启动NodeManager、ResourceManager 和 HistoryManager

  • 开启日志聚集功能
[centos@hadoop10 hadoop]$ sbin/mr-jobhistory-daemon.sh start historyserver
  • 启动历史服务器

Hadoop群起脚本

vim hdp.sh

#!/bin/bash
if [ $# -lt 1 ]
then
    echo "No Args Input..."
    exit ;
fi
case $1 in
"start")
        echo " =================== 启动 hadoop集群 ==================="

        echo " --------------- 启动 hdfs ---------------"
        ssh hadoop10 "/data/module/hadoop/sbin/start-dfs.sh"
        echo " --------------- 启动 yarn ---------------"
        ssh hadoop11 "/data/module/hadoop/sbin/start-yarn.sh"
        echo " --------------- 启动 historyserver ---------------"
        ssh hadoop10 "/data/module/hadoop/bin/mapred --daemon start historyserver"
;;
"stop")
        echo " =================== 关闭 hadoop集群 ==================="

        echo " --------------- 关闭 historyserver ---------------"
        ssh hadoop10 "/data/module/hadoop/bin/mapred --daemon stop historyserver"
        echo " --------------- 关闭 yarn ---------------"
        ssh hadoop11 "/data/module/hadoop/sbin/stop-yarn.sh"
        echo " --------------- 关闭 hdfs ---------------"
        ssh hadoop10 "/data/module/hadoop/sbin/stop-dfs.sh"
;;
*)
    echo "Input Args Error..."
;;
esac

http://192.168.31.11:9868/ 2nn 报错以下为处理方式

[centos@hadoop11 static]$ pwd
/data/module/hadoop/share/hadoop/hdfs/webapps/static
[centos@hadoop11 static]$ vim dfs-dust.js

Untitled

'date_tostring' : function (v) {
return Number(v).toLocaleString();
},

[hadoop优化]

文章标签：
云原生大数据计算服务 MaxCompute
日志服务
分布式计算
Hadoop
大数据
资源调度
网络协议
关键词：
云原生大数据计算服务 MaxCompute安装
大数据hadoop
云原生大数据计算服务 MaxCompute环境
云原生大数据计算服务 MaxCompute hadoop
hadoop安装
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析，通过分析能得到用户群体年龄分布，性别分布，地理位置分布，以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品，是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法，从场景到实践，体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库，助力开发者学习了解先进的技术栈，并能在实际业务中敏捷的进行大数据分析，赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景，可应用MaxCompute实现数仓搭建，快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理，需要搭建数据仓库？学它！ 没有足够人员和经验来运维大数据平台，不想自建IDC买机器，需要免运维的大数据平台？会SQL就等于会大数据？学它！ 想知道大数据用得对不对，想用更少的钱得到持续演进的数仓能力？获得极致弹性的计算资源和更好的性能，以及持续保护数据安全的生产环境？学它！ 想要获得灵活的分析能力，快速洞察数据规律特征？想要兼得数据湖的灵活性与数据仓库的成长性？学它！ 出品人：阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
钱塘大舅哥
目录
相关文章
武子康
|
13天前
|
分布式计算 Kubernetes Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
武子康
78 6
武子康
|
13天前
|
分布式计算 资源调度 Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
武子康
42 2
武子康
|
13天前
|
SQL 机器学习/深度学习 分布式计算
大数据-81 Spark 安装配置环境 集群环境配置 超详细 三台云服务器
大数据-81 Spark 安装配置环境 集群环境配置 超详细 三台云服务器
武子康
32 1
zzy的aly
|
9天前
|
分布式计算 Hadoop 大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
zzy的aly
20 1
叫我阿柒啊
|
11天前
|
SQL 分布式计算 大数据
大数据平台的毕业设计01：Hadoop与离线分析
大数据平台的毕业设计01：Hadoop与离线分析
叫我阿柒啊
41 0
一乐乐
|
分布式计算 Ubuntu Hadoop
Hadoop 的安装和使用（基于Linux~Ubuntu的虚拟机）
Hadoop 的安装和使用（基于Linux~Ubuntu的虚拟机）
一乐乐
1011 0
Hadoop 的安装和使用（基于Linux~Ubuntu的虚拟机）
武子康
|
15天前
|
存储 分布式计算 资源调度
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
武子康
60 5
武子康
|
15天前
|
资源调度 数据可视化 大数据
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
武子康
28 4
武子康
|
15天前
|
大数据 网络安全 数据安全/隐私保护
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建（二）
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建（二）
武子康
64 5
武子康
|
15天前
|
XML 分布式计算 资源调度
大数据-02-Hadoop集群 XML配置 超详细 core-site.xml hdfs-site.xml 3节点云服务器 2C4G HDFS Yarn MapRedece（一）
大数据-02-Hadoop集群 XML配置 超详细 core-site.xml hdfs-site.xml 3节点云服务器 2C4G HDFS Yarn MapRedece（一）
武子康
82 5

热门文章

最新文章

  • 1
    深度 ｜ 大数据算法应用的测试发展之路
  • 2
    使用MaxCompute访问TableStore（OTS） 简明手册
  • 3
    丰富、连接、待集成—MaxCompute 生态再出发
  • 4
    【大数据干货】数据进入阿里云数加-分析型数据库AnalyticDB（原ADS）的N种方法
  • 5
    日交易笔百万级，Ping++的大数据平台架构
  • 6
    MaxCompute计算长尾问题
  • 7
    北京供销大数据集团荣获“2016-2017年度数据中心优秀创新企业奖”
  • 8
    大数据平台搭建（容器环境）——Spark3.X on Yarn安装配置
  • 9
    大数据将彻底颠覆招聘产业
  • 10
    企业迎来大数据时代 流控产品持续发展
  • 1
    在Hadoop节点线缆连接检查中线缆长度
    28
  • 2
    在Hadoop节点线缆连接检查中线缆类型
    35
  • 3
    在Hadoop节点线缆连接检查中物理检查
    30
  • 4
    Hadoop节点IP地址和子网掩码
    74
  • 5
    Hadoop节点线缆连接检查
    39
  • 6
    Hadoop节点网络硬件检查
    51
  • 7
    Hadoop节点IP地址和子网掩码配置
    87
  • 8
    Hadoop节点检查线缆连接
    44
  • 9
    Hadoop节点检查网络交换机、路由器和网线
    79
  • 10
    【史上最全】Hadoop精选18道面试题(附回答思路)
    387

    • 相关课程

    更多
  • 大数据Spark2020最新课程（知识精讲与实战演练）第二阶段
  • 大数据Spark2020版（知识精讲与实战演练）第三阶段
  • 大数据Spark2020版（知识精讲与实战演练）第四阶段
  • 2020版大数据实战项目之DMP广告系统（第三阶段）
  • 2020版大数据实战项目之DMP广告系统（第四阶段）
  • 2020版大数据实战项目之DMP广告系统（第七阶段）

    • 相关电子书

    更多
  • Data+AI时代大数据平台应该如何建设
  • 大数据AI一体化的解读
  • 极氪大数据 Serverless 应用实践

    • 相关实验场景

    更多
  • 搭建Hadoop环境
  • 通过FastMR自动拉起大数据集群并运行TPCDS任务
  • 基于MaxCompute的热门话题分析
    • 下一篇
    AI助理直击要害，从繁复中提炼精华——使用CDN加速访问OSS存储的图片