AI 助理
备案控制台
开发者社区 大数据 文章 正文

【大数据环境准备】（三）Hadoop安装（上）

2023-08-28 103
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生大数据计算服务MaxCompute，500CU*H 100GB 3个月
日志服务 SLS，月写入数据量 50GB 1个月
云原生大数据计算服务 MaxCompute，5000CU*H 100GB 3个月
简介： Hadoop安装（上） 环境安装

设置环境

1、解压

[centos@localhost data]$ tar -zxvf hadoop-3.1.3.tar.gz -C /data/module/
[centos@localhost data]$ mv hadoop-3.1.3 /data/moudle/hadoop

2、添加Hadoop环境

[centos@localhost data]$ sudo vim /etc/profile.d/my_env.sh

3、在profile文件末尾添加JDK路径：这边可能需要root权限才能更改

#HADOOP_HOME
export HADOOP_HOME=/data/module/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin

配置集群

1)核心配置文件

配置core-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- 指定NameNode的地址 -->
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://hadoop10:8020</value>
</property>
<!-- 指定hadoop数据的存储目录 -->
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/data/module/hadoop/data</value>
</property>

<!-- 配置HDFS网页登录使用的静态用户为centos -->
    <property>
        <name>hadoop.http.staticuser.user</name>
        <value>centos</value>
</property>

<!-- 配置该centos(superUser)允许通过代理访问的主机节点 -->
    <property>
        <name>hadoop.proxyuser.centos.hosts</name>
        <value>*</value>
</property>
<!-- 配置该centos(superUser)允许通过代理用户所属组 -->
    <property>
        <name>hadoop.proxyuser.centos.groups</name>
        <value>*</value>
</property>
<!-- 配置该centos(superUser)允许通过代理的用户-->
    <property>
        <name>hadoop.proxyuser.centos.users</name>
        <value>*</value>
</property>
</configuration>

2）HDFS配置文件
配置hdfs-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- nn web端访问地址-->
    <property>
        <name>dfs.namenode.http-address</name>
        <value>hadoop10:9870</value>
    </property>
    
    <!-- 2nn web端访问地址-->
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>hadoop11:9868</value>
    </property>
    
    <!-- 测试环境指定HDFS副本的数量1  -->
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
</configuration>

3）YARN配置文件
配置yarn-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- 指定MR走shuffle -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    
    <!-- 指定ResourceManager的地址-->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoop12</value>
    </property>
    
    <!-- 环境变量的继承 -->
    <property>
        <name>yarn.nodemanager.env-whitelist</name>
        <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>
    
    <!--yarn单个容器允许分配的最大最小内存 -->
    <property>
        <name>yarn.scheduler.minimum-allocation-mb</name>
        <value>512</value>
    </property>
    <property>
        <name>yarn.scheduler.maximum-allocation-mb</name>
        <value>4096</value>
    </property>
    
    <!-- yarn容器允许管理的物理内存大小 -->
    <property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>4096</value>
    </property>
    
    <!-- 关闭yarn对物理内存和虚拟内存的限制检查 -->
    <property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>true</value>
    </property>
    <property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
    </property>
</configuration>

4）MapReduce配置文件
配置mapred-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- 指定MapReduce程序运行在Yarn上 -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

5）配置workers

[centos@localhost hadoop]$ vim workers
[centos@localhost hadoop]$ cat workers
hadoop10
hadoop11

配置历史服务器

查看历史运行情况,需要配置历史服务器.具体步骤如下

配置mapred-site.xml 在该文件中追加如下配置

<!-- 历史服务器端地址 -->
<property>
    <name>mapreduce.jobhistory.address</name>
    <value>hadoop10:10020</value>
</property>

<!-- 历史服务器web端地址 -->
<property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>hadoop10:19888</value>
</property>

配置日志聚集功能

日志聚集概念：应用运行完成以后，将程序运行日志信息上传到HDFS系统上。
日志聚集功能好处：可以方便的查看到程序运行详情，方便开发调试。
注意：开启日志聚集功能，需要重新启动NodeManager 、ResourceManager和HistoryManager。

1、配置yarn-site.xml

<!-- 开启日志聚集功能 -->
<property>
    <name>yarn.log-aggregation-enable</name>
    <value>true</value>
</property>

<!-- 设置日志聚集服务器地址 -->
<property>  
    <name>yarn.log.server.url</name>  
    <value>http://hadoop10:19888/jobhistory/logs</value>
</property>

<!-- 设置日志保留时间为7天 -->
<property>
    <name>yarn.log-aggregation.retain-seconds</name>
    <value>604800</value>
</property>

一)分发Hadoop

$ xsync /opt/module/hadoop/

1、启动集群

如果是第一次启动,需要在hadoop10节点格式化NameNode(格式化之前一定要停止上次启动的所有namenode和datanode进程,然后再删除data和log数据)

[centos@hadoop10 hadoop]$ bin/hdfs namenode -format

2、启动HDFS

[centos@hadoop10 hadoop]$ sbin/start-dfs.sh
Starting namenodes on [hadoop10]
hadoop10: Permission denied (publickey,gssapi-keyex,gssapi-with-mic,password).
Starting datanodes
hadoop10: Permission denied (publickey,gssapi-keyex,gssapi-with-mic,password).
hadoop11: WARNING: /data/module/hadoop/logs does not exist. Creating.
Starting secondary namenodes [hadoop11]
主机没有权限,master需要对自己免密登录
[centos@hadoop10 hadoop]$ ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/home/centos/.ssh/id_rsa):
/home/centos/.ssh/id_rsa already exists.
Overwrite (y/n)?
[centos@hadoop10 hadoop]$ ssh-copy-id centos@hadoop10
/usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/home/centos/.ssh/id_rsa.pub"
/usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed
/usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys
centos@hadoop10's password:

Number of key(s) added: 1

Now try logging into the machine, with:   "ssh 'centos@hadoop10'"
and check to make sure that only the key(s) you wanted were added.

[centos@hadoop10 hadoop]$ cd ~/.ssh/
[centos@hadoop10 .ssh]$ ll
总用量 16
-rwxrwxrwx. 1 centos centos  820 8月  17 07:00 authorized_keys
-rw-------. 1 centos centos 1679 8月  16 06:44 id_rsa
-rw-r--r--. 1 centos centos  410 8月  16 06:44 id_rsa.pub
-rw-r--r--. 1 centos centos  368 8月  16 07:28 known_hosts
[centos@hadoop10 .ssh]$ cat authorized_keys
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQDLI9fogg2g+VXcu/HulYnDnUuCJphcg3Rrh347v7C80YeQIsXxeQgiORia/j9jsWLzIm6hkMGpYdaeqmXbsiNrKtKLSIM8Xv5U79/0HsMvqf7LRpdxDCRn3wtqnIIXKcF7+EDAnvdTj4bNsD9SV49gl+YRD1E7O0bb6KJEUA+xqWilRt6trh97RHtYpYadiSP6ztT+4Ah7QBX7fJa/JD71g/VymRcSIGlaAtTDHcU1+VgdZSs62+hP0yzo8lEKrHOo/KJeY2GdmsMolQhLEO7KGNAjnO7q6gLr8FF4jKjculaaRsJOMy8QsNIDZawLK0Yo00msEpBRm6pDjcdl6WH3 centos@localhost.localdomain
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABAQCoow0BXfwFzNOIVaaEE4pyHtGkS9PgB9+THm4tHy2mKg5fBj3ewou0VAPWkp7RwZQUX61mX9QJ1ZbzfESYe6KZQ6GMx3cBwP2qlaxQjQQmBu0aGkETdQ9pexAteGK9IjlgQ7qa1vN3U9jUOjJzXMXIVYW/hhxHL1tY9Mj8rj2L4gJfxxZnt9xbPdz7uiFgpQ1PYqH9KrA4kiKd0s730xZtnaiPI782aOmuVA75INBiZcpuw6QFgBmTDqjpSohAhCInoXNY3Mk1aqFR7OUK4k2E3IH2AVlr5xdpVAd3VwNrJMINJQ8NrrPBA/sF8xnUdy4gRt2UE88npsRhepN//cJV centos@localhost.localdomain
[centos@hadoop10 .ssh]$
[centos@hadoop10 hadoop]$ cd ~/.ssh/
[centos@hadoop10 .ssh]$ chmod 600 authorized_keys

第二种可能防火墙

3、在配置了ResourceManager 节点11 启动YARN

[centos@hadoop10 hadoop]$ start-yarn.sh

4、web端查看HDFS 页面 http://hadoop10:9870

防火墙端口未开

[root@localhost hadoop]# firewall-cmd --zone=public --add-port=9870/tcp --permanent
success
[root@localhost hadoop]# firewall-cmd --reload
success
[root@localhost hadoop]# firewall-cmd --list-ports
8848/tcp 9870/tcp

可以使用Ambari、Ganglia、Nagios等工具进行监控。

  • 监控HDFS和YARN的运行情况
[centos@hadoop10 hadoop]$ sbin/stop-yarn.sh
[centos@hadoop10 hadoop]$ sbin/start-yarn.sh

需要重新启动NodeManager、ResourceManager 和 HistoryManager

  • 开启日志聚集功能
[centos@hadoop10 hadoop]$ sbin/mr-jobhistory-daemon.sh start historyserver
  • 启动历史服务器

Hadoop群起脚本

vim hdp.sh

#!/bin/bash
if [ $# -lt 1 ]
then
    echo "No Args Input..."
    exit ;
fi
case $1 in
"start")
        echo " =================== 启动 hadoop集群 ==================="

        echo " --------------- 启动 hdfs ---------------"
        ssh hadoop10 "/data/module/hadoop/sbin/start-dfs.sh"
        echo " --------------- 启动 yarn ---------------"
        ssh hadoop11 "/data/module/hadoop/sbin/start-yarn.sh"
        echo " --------------- 启动 historyserver ---------------"
        ssh hadoop10 "/data/module/hadoop/bin/mapred --daemon start historyserver"
;;
"stop")
        echo " =================== 关闭 hadoop集群 ==================="

        echo " --------------- 关闭 historyserver ---------------"
        ssh hadoop10 "/data/module/hadoop/bin/mapred --daemon stop historyserver"
        echo " --------------- 关闭 yarn ---------------"
        ssh hadoop11 "/data/module/hadoop/sbin/stop-yarn.sh"
        echo " --------------- 关闭 hdfs ---------------"
        ssh hadoop10 "/data/module/hadoop/sbin/stop-dfs.sh"
;;
*)
    echo "Input Args Error..."
;;
esac

http://192.168.31.11:9868/ 2nn 报错以下为处理方式

[centos@hadoop11 static]$ pwd
/data/module/hadoop/share/hadoop/hdfs/webapps/static
[centos@hadoop11 static]$ vim dfs-dust.js

Untitled

'date_tostring' : function (v) {
return Number(v).toLocaleString();
},

[hadoop优化]

文章标签：
云原生大数据计算服务 MaxCompute
日志服务
分布式计算
Hadoop
大数据
资源调度
网络协议
关键词：
云原生大数据计算服务 MaxCompute环境
大数据hadoop
云原生大数据计算服务 MaxCompute hadoop
hadoop安装
云原生大数据计算服务 MaxCompute安装
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析，通过分析能得到用户群体年龄分布，性别分布，地理位置分布，以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品，是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法，从场景到实践，体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库，助力开发者学习了解先进的技术栈，并能在实际业务中敏捷的进行大数据分析，赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景，可应用MaxCompute实现数仓搭建，快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理，需要搭建数据仓库？学它！ 没有足够人员和经验来运维大数据平台，不想自建IDC买机器，需要免运维的大数据平台？会SQL就等于会大数据？学它！ 想知道大数据用得对不对，想用更少的钱得到持续演进的数仓能力？获得极致弹性的计算资源和更好的性能，以及持续保护数据安全的生产环境？学它！ 想要获得灵活的分析能力，快速洞察数据规律特征？想要兼得数据湖的灵活性与数据仓库的成长性？学它！ 出品人：阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
钱塘大舅哥
目录
相关文章
栈江湖
|
1天前
|
存储 分布式计算 大数据
Flume+Hadoop：打造你的大数据处理流水线
本文介绍了如何使用Apache Flume采集日志数据并上传至Hadoop分布式文件系统（HDFS）。Flume是一个高可用、可靠的分布式系统，适用于大规模日志数据的采集和传输。文章详细描述了Flume的安装、配置及启动过程，并通过具体示例展示了如何将本地日志数据实时传输到HDFS中。同时，还提供了验证步骤，确保数据成功上传。最后，补充说明了使用文件模式作为channel以避免数据丢失的方法。
栈江湖
19 4
九月天空
|
1月前
|
存储 大数据 数据处理
大数据环境下的性能优化策略
大数据环境下的性能优化策略
九月天空
49 2
土木林森
|
1月前
|
存储 分布式计算 Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代，数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件，通过HDFS存储数据和Spark进行高效计算，实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践，包括数据存储、处理、安全和可视化等方面，展示了它们在实际应用中的协同效应。
土木林森
110 2
土木林森
|
1月前
|
存储 分布式计算 Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用，通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理，确保高可靠性和容错性；Spark则凭借其高性能和丰富的API，进行深度分析和机器学习，实现高效的批处理和实时处理。
土木林森
74 1
zzy的aly
|
2月前
|
分布式计算 Hadoop 大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
zzy的aly
74 1
武子康
|
2月前
|
分布式计算 Kubernetes Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
武子康
184 6
武子康
|
2月前
|
分布式计算 资源调度 Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
武子康
78 2
武子康
|
2月前
|
存储 分布式计算 资源调度
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（一）
武子康
85 5
武子康
|
2月前
|
资源调度 数据可视化 大数据
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
大数据-04-Hadoop集群 集群群起 NameNode/DataNode启动 3台公网云 ResourceManager Yarn HDFS 集群启动 UI可视化查看 YarnUI（二）
武子康
37 4
武子康
|
2月前
|
大数据 网络安全 数据安全/隐私保护
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建（二）
大数据-03-Hadoop集群 免密登录 超详细 3节点云 分发脚本 踩坑笔记 SSH免密 集群搭建（二）
武子康
145 5

热门文章

最新文章

  • 1
    丰富、连接、待集成—MaxCompute 生态再出发
  • 2
    日交易笔百万级，Ping++的大数据平台架构
  • 3
    大数据销售管理服务提供商InsideSales获得1亿美元融资
  • 4
    MaxCompute数仓构建流程基本概念
  • 5
    云计算＆大数据 “下一幕”智能变革之力
  • 6
    计世资讯：用户对大数据安全分析需求逐渐迫切
  • 7
    Mysql5.7使用DTS增量同步数据到MaxCompute
  • 8
    工业大数据对智能制造 赋能效应进一步释放
  • 9
    2020年M2M收入达160亿美金 运营商需加强“大数据”能力
  • 10
    机构报告：大数据分析提升企业决策水平
  • 1
    Hadoop配置复杂性
    51
  • 2
    Hadoop生态系统集成问题
    63
  • 3
    Hadoop权限问题
    114
  • 4
    Hadoop安全性问题
    120
  • 5
    安装hadoop学习笔记
    70
  • 6
    Hadoop的HDFS问题
    87
  • 7
    Hadoop防火墙问题
    101
  • 8
    Hadoop配置
    76
  • 9
    Hadoop网络问题
    153
  • 10
    Hadoop常见问题
    75

    • 相关课程

    更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段
  • 大数据Hadoop快速入门
  • Hadoop快速入门
  • Hadoop企业优化及扩展案例

    • 相关电子书

    更多
  • 《构建Hadoop生态批流一体的实时数仓》
  • 零基础实现hadoop 迁移 MaxCompute 之 数据
  • CIO 指南:如何在SAP软件架构中使用Hadoop

    • 相关实验场景

    更多
  • 基于OpenSearch向量检索版和MaxCompute快速搭建图搜服务
  • 倚天大数据电商数据分析快速实践
  • 玩转MaxCompute SQL! 30分钟搞定数据分析挖掘
  • 使用内置公开数据集快速体验MaxCompute
  • 基于MaxCompute的热门话题分析
  • 实时数据及离线数据上云方案
    • 下一篇
    DataWorks