Linux的企业-Hadoop的多节点配置

简介:

一.配置环境

redhat6.5

server1 172.25.29.1  hadoop master nfs

server2 172.25.29.2  nfs

server3 172.25.29.3  nfs

server4 172.25.29.4  nfs

server5 172.25.29.5  高可用备机 nfs

使用 nfs 共享同步配置文件


二.Hadoop单点配置

1.安装hadoop和jdk

280119253ea3e12c306a6a854659aaa3.png


使用hadoop用户运行

d303c71135a29dc7a37d52f1cd306498.png


2.配置hadoop在java上的运行环境

09cb7e59f71da918f0ca675ba9681079.png

0b94156e628756e63656273097461bb0.png


3.算法模块测试

934fbc3b4262f21d93c2ea67c8a09422.png

e1733804f89f021feda1af13881e0306.png

04554a45579067d5a7f8fe198c9231f0.png



output生成的数据

6c4a1166ed02002823b432e92d08dc4f.png


4.配置单点hadoop


4becdb2870a1b45b5c878fe899e1d5a9.png


22e84e812e3cec3c05f0be979cf720ee.png

b6866cd32e1440855e68018aebe3acf9.png


5.给hadoop设置用户密码,设置主机之间免密

5a7f6977929a309ae329703901d737ce.png

ffcb3d48474134ccdf7ae5a2e363c16f.png

70aa88bb18d7dd936c352c34a798ec0b.png

9173d41f3df113e892889af7e1cf8792.png


6.设置储存节点为1个

c92693474d205645ff228f6d24bde45a.png

b6f6ba6a24361333574c4c0196242cdb.png

7.格式化hdfs

397339421feeae3fbaf67d2ac4d92cf9.png


8.启动hadoop

3177fda9f90b47fa7c7ea35ec648b63d.png


9.设置查看进程的java的命令jps的运行路径

7e5814b639db1714e005547b66e4b286.png

a7eaf0a54f6d9db9ee4d2901d1e5a18b.png


10.查看节点运行状态,测试

58e593b128916f822a34898471aa143b.png

8733b89ce5acb113c08305890feedd2e.png

11.以文本模式查看结果

444cb31ce4d57b8c3dbb22090b9d3fe4.png


创建目录

7f8d5904bef19c68935225413c7d4849.png

5393b3699740093595f4d28ff8a010db.png

9b71aa069a02a04567f0fcfc7a56345a.png

cd10aee684cec903d514127a1370e6b3.png

948165d6ad89b8c3cd4a862809e2e33a.png


四.多节点hadoop配置

使用 nfs 共享同步配置文件

1.server1配置nfs服务

179092d9a5493c3d410a915ecc335cc4.png


eb5c5ea2b20b9b3f763543850434f5d8.png

6a662892bdc18b4e344ae475fa9efb00.png

93dcf30bb84be6c8c34e72a0040520f9.png


2.在server2至server5安装nfs,并新建hadoop用户,并启动rpcbind

ba8c8f816f8a406493fe2b1021762aed.png


104ba509f0e3897d0f9cbbb6c2e17b61.png

d2a7dd7dbad374ce8f16d101f10ad9b6.png


3.建立主机之间免密

8beee3f55d8ba18766279f4f626990bd.png

b38e699b90895dd0a7bf2a63d09fddea.png

b26aa6d60d9fb40813843504d7fbf5b8.png


4.hadoop集群配置

90d733014b90a7e3078a0cc395e4faa3.png

738916de261033547cd6f9e76ecb574a.png

b515247afdca2965af7db3c95258dd25.png


5.格式化hdfs

114ea4c287a89838e2ed3fe1d773f4d8.png

f9111ec6ad645564034e81c654350457.png


6.启动hadoop集群

504f87797d4078ad9532e8cce11d544b.png

查看节点2,3和状态

bbda4c2ddd9b3a35103a1c78fdc408ed.png

ab791ae8151972a0db3ad18c8f847b83.png


7.登陆web 172.25.29.1:50070

67f800d58d9043d683847c8c2f680616.png


8.启动集群管理资源模块

9b5da16f9de56410f05d823d144f0068.png

4da67337a581f327afa2701df9c7e90c.png

4074ec199f9ea69294457c688432a5c0.png

b1657ea804355d92f0bc64ffa9473d13.png





      本文转自一百个小排 51CTO博客,原文链接:http://blog.51cto.com/anfishr/1975948,如需转载请自行联系原作者



相关文章
|
1月前
|
消息中间件 Java Kafka
【手把手教你Linux环境下快速搭建Kafka集群】内含脚本分发教程,实现一键部署多个Kafka节点
本文介绍了Kafka集群的搭建过程,涵盖从虚拟机安装到集群测试的详细步骤。首先规划了集群架构,包括三台Kafka Broker节点,并说明了分布式环境下的服务进程配置。接着,通过VMware导入模板机并克隆出三台虚拟机(kafka-broker1、kafka-broker2、kafka-broker3),分别设置IP地址和主机名。随后,依次安装JDK、ZooKeeper和Kafka,并配置相应的环境变量与启动脚本,确保各组件能正常运行。最后,通过编写启停脚本简化集群的操作流程,并对集群进行测试,验证其功能完整性。整个过程强调了自动化脚本的应用,提高了部署效率。
【手把手教你Linux环境下快速搭建Kafka集群】内含脚本分发教程,实现一键部署多个Kafka节点
|
28天前
|
Ubuntu Unix Linux
Linux网络文件系统NFS:配置与管理指南
NFS 是 Linux 系统中常用的网络文件系统协议,通过配置和管理 NFS,可以实现跨网络的文件共享。本文详细介绍了 NFS 的安装、配置、管理和常见问题的解决方法,希望对您的工作有所帮助。通过正确配置和优化 NFS,可以显著提高文件共享的效率和安全性。
177 7
|
2月前
|
数据库连接 Linux Shell
Linux下ODBC与 南大通用GBase 8s数据库的无缝连接配置指南
本文详细介绍在Linux系统下配置GBase 8s数据库ODBC的过程,涵盖环境变量设置、ODBC配置文件编辑及连接测试等步骤。首先配置数据库环境变量如GBASEDBTDIR、PATH等,接着修改odbcinst.ini和odbc.ini文件,指定驱动路径、数据库名称等信息,最后通过catalog.c工具或isql命令验证ODBC连接是否成功。
|
2月前
|
缓存 资源调度 安全
深入探索Linux操作系统的心脏——内核配置与优化####
本文作为一篇技术性深度解析文章,旨在引领读者踏上一场揭秘Linux内核配置与优化的奇妙之旅。不同于传统的摘要概述,本文将以实战为导向,直接跳入核心内容,探讨如何通过精细调整内核参数来提升系统性能、增强安全性及实现资源高效利用。从基础概念到高级技巧,逐步揭示那些隐藏在命令行背后的强大功能,为系统管理员和高级用户打开一扇通往极致性能与定制化体验的大门。 --- ###
93 9
|
2月前
|
存储 安全 数据管理
如何在 Rocky Linux 8 上安装和配置 Elasticsearch
本文详细介绍了在 Rocky Linux 8 上安装和配置 Elasticsearch 的步骤,包括添加仓库、安装 Elasticsearch、配置文件修改、设置内存和文件描述符、启动和验证 Elasticsearch,以及常见问题的解决方法。通过这些步骤,你可以快速搭建起这个强大的分布式搜索和分析引擎。
88 5
|
3月前
|
Java Linux 网络安全
NIFI在Linux服务区上的部署配置过程是什么?
【10月更文挑战第21天】NIFI在Linux服务区上的部署配置过程是什么?
106 2
|
3月前
|
Ubuntu Linux 编译器
Linux/Ubuntu下使用VS Code配置C/C++项目环境调用OpenCV
通过以上步骤,您已经成功在Ubuntu系统下的VS Code中配置了C/C++项目环境,并能够调用OpenCV库进行开发。请确保每一步都按照您的系统实际情况进行适当调整。
906 3
|
3月前
|
监控 安全 网络协议
快速配置Linux云服务器
【10月更文挑战第3天】快速配置Linux云服务器
|
分布式计算 Hadoop Java
|
Java Linux C++
Linux上编译hadoop-2.7.1的libhdfs.so和libhdfs.a
hadoop提供了CMake来编译libhdfs,因此在编译之前需要先安装好CMake工具。 然后进入libhdfs的源代码目录,如:/data/hadoop-2.7.1-src/hadoop-hdfs-project/hadoop-hdfs/src 执行cmake以生成Makefile文件(假设jdk的安装目录为/data/jdk1.
2046 0