DKhadoop环境安装配置步骤详解

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,高可用系列 2核4GB
云数据库 RDS MySQL,高可用系列 2核4GB
简介: 在上一篇的分享文章中我是给大家分享了运行部署hadoop的一些安装准备工作,这篇接上一篇继续为大家分享一些个人的学习经验总结。我学习用的是大快发行版DKHadoop,所以所有的经验分享都是以DKHadoop为基础,这里要先说明一下。

在上一篇的分享文章中我是给大家分享了运行部署hadoop的一些安装准备工作,这篇接上一篇继续为大家分享一些个人的学习经验总结。我学习用的是大快发行版DKHadoop,所以所有的经验分享都是以DKHadoop为基础,这里要先说明一下。个人觉得DKHadoop对新手还是算是很友好的了,新手朋友们可以大快搜索网站下载一个三节点的dkhadoop玩一下看看。

闲话到此结束,本篇重点整理的是服务器操作系统的配置问题,写的可能会有点长,需要一点点耐心看的哦!

1.修改权限

步骤:在准备工作中拷贝安装DKHPlantform.zip主节点/root/目录后,解压并修改文件权限(文件所有者可读可写可执行,与文件所有者属于一个用户组的其他用户可读可执行,其他用户组可读可执行)。

命令:  

cd /root/

unzip DKHPlantform.zip

chmod -R 755 DKHPlantform

2. 搭建hadoop集群设置SSH免密登录

步骤:

修改主机名  vi /etc/sysconfig/network  reboot

1)修改本机hosts文件,写入对应关系

命令:

vi /etc/hosts

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下Shift+:键,输入wq 后回车就可以保存输入q回车则是放弃保存退出.

进入编辑模式后,按照规则写入主机与ip的对应关系(主机名称dk41是自己命名的,如下图)例:

    192.168.1.41    dk41

192.168.1.42    dk42

192.168.1.43    dk43

 a3cd9c1f568f1ba7231a137b51b35470aeebfd89

编辑完后,保存退出。把对应关系拷到其他两台机器上。

命令:

scp  -r  /etc/hosts  192.168.1.42:/etc

scp  -r  /etc/hosts  192.168.1.43:/etc

2)执行集群之间免密前的准备工作   

a)执行sshpass.sh的脚本的时候会去读sshhostssshslaves这两个文件,替换sshpass.sh中的master和slave文件。                                                            

修改文件sshhosts,输入全部机器的主机名,每行一个主机名(如下图)

命令:

vi /root/DKHPlantform/autossh/sshhosts

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下Shift+:键,输入wq,后回车就可以保存输入q回车则是放弃保存退出.

 

43b8e61a747199083a57b1a8f0e189655211b3f8

修改文件sshslaves,写入除主机名之外的所有机器名(如下图)

命令:

vi /root/DKHPlantform/autossh/sshslaves

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下Shift+:键,输入wq,后回车就可以保存输入q回车则是放弃保存退出.

0e58953a845d6cca597843e337144dd7a35a76f6

b)执行insExpect.sh,系统会装两个rpm包,在执行sshpass.sh的过程中无需再输密码和yes,脚本自动继续执行

命令:

cd /root/DKHPlantform/autossh

./insExpect.sh

按照提示多次输入yes密码(如下图)

8799287367c3adee6f186e730c9a1a1196f3e149

c)执行changeMaster.sh脚本为了清空/root/.ssh目录下的所有文件(在/root/DKHPlantform/autossh目录下),避免在执行sshpass.sh脚本时产生的新密钥时与旧的密钥发生冲突

命令

./changeMaster.sh                                                   

按照提示输入(如下图)

0f314f6068f5a956e2e04c988f13686249760213

3)执行集群免SSH

a)执行SSH:

命令:

cd /root/

./sshpass.sh 密码

123456集群密码,根据自己实际情况输入

 57a565b6e09a8329c647e99b11ab8a1c9f687b50

b)防止访问服务器时某些服务被拦截,需关闭防火墙。

命令

cd /root/DKHPlantform/autossh

./offIptables.sh

 3d299fe8795b93fd76411a35317f55a33ebb05eb

3.安装双机热备份MySQL

目的:存放Hive的元数据

步骤:

1)从主节点分发mysql安装目录第二节点

命令:

scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/

2)主节点执行: 

命令:                                                                                                                                                                                                                                                                                                                                           

cd /root/DKHPlantform/mysqlInst/

./mysql.sh 1

ssh前往第二台机器(从节点)并执行:

命令:

cd /root/mysqlInst/

./mysql.sh 2

3)执行成功之后执行热备份(两台机器上都要执行,两个ip互换,41上写42,42上写41,密码是Mysql的密码为:123456。平台内已经设定好,请勿修改

命令:

source /etc/profile

./sync.sh 192.168.1.xxx(另一台mysql地址) root 123456

 

4.创建数据库

 步骤:

1)导入MySQL数据表,只在主节点执行:

命令

mysql -uroot -p123456 < { 此处为sql文件,主目录下文件: dkh.sql}

如:mysql -uroot -p123456 </root/DKHPlantform/dkh.sql

2)执行完后查看一下两台mysql的数据表是否存在,从节点查看执行:

命令:

mysql  -uroot  -p123456
show databases;

 440c7c1b1fd258bec4a05338fe0ae0fe79bfee3f

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
Shell Windows
windows出现错误0x800401E5:没有供标记使用的对象
windows出现错误0x800401E5:没有供标记使用的对象
windows出现错误0x800401E5:没有供标记使用的对象
|
6月前
|
存储 监控 数据挖掘
用CRM系统开启订单-回款自动化管理之旅
在现代企业管理中,CRM系统不仅是客户信息的存储库,更是提升运营效率的关键工具。通过订单到回款的自动化管理,CRM系统减少人为错误、提高响应速度、优化现金流。具体方法包括:订单管理自动化、回款跟踪自动化、财务与CRM集成、数据分析与报告,从而显著提升客户满意度和企业内部效率。CRM系统正成为推动企业持续发展的重要力量。
|
7月前
|
自然语言处理 搜索推荐 数据安全/隐私保护
鸿蒙登录页面好看的样式设计-HarmonyOS应用开发实战与ArkTS代码解析【HarmonyOS 5.0(Next)】
鸿蒙登录页面设计展示了 HarmonyOS 5.0(Next)的未来美学理念,结合科技与艺术,为用户带来视觉盛宴。该页面使用 ArkTS 开发,支持个性化定制和无缝智能设备连接。代码解析涵盖了声明式 UI、状态管理、事件处理及路由导航等关键概念,帮助开发者快速上手 HarmonyOS 应用开发。通过这段代码,开发者可以了解如何构建交互式界面并实现跨设备协同工作,推动智能生态的发展。
444 10
鸿蒙登录页面好看的样式设计-HarmonyOS应用开发实战与ArkTS代码解析【HarmonyOS 5.0(Next)】
|
8月前
|
Ubuntu 搜索推荐 Linux
这 8 款 Linux 发行版绝对适合学生群体,看看有没有你喜欢的!
在数字化时代,Linux 操作系统以其稳定性、安全性和强大功能受到学生群体的青睐。本文介绍了 8 款适合学生的 Linux 发行版:Ubuntu、Linux Mint、Fedora、openSUSE、Elementary OS、Manjaro、Zorin OS 和 Kubuntu。这些发行版各具特色,从易用性、软件资源、社区支持和稳定安全性等方面满足学生的需求,帮助他们在学习和技术探索中取得进步。
204 4
|
9月前
|
API 数据安全/隐私保护 UED
文档智能(Document Intelligence)与检索增强生成(Retrieval-Augmented Generation, RAG)
文档智能(Document Intelligence)与检索增强生成(Retrieval-Augmented Generation, RAG)
211 1
|
12月前
|
存储 缓存 NoSQL
Redis问题之一致性Hash是如何解决哈希+取余方法中的稳定性问题的
Redis问题之一致性Hash是如何解决哈希+取余方法中的稳定性问题的
135 10
|
存储 安全 区块链
WBTC与BTC的主要区别
WBTC与BTC的主要区别
637 6
|
小程序 JavaScript Java
商城|商城小程序|基于微信小程序的智慧商城系统设计与实现(源码+数据库+文档)
商城|商城小程序|基于微信小程序的智慧商城系统设计与实现(源码+数据库+文档)
336 1
|
安全 Cloud Native Linux
揭秘远程证明架构EAA:机密容器安全部署的最后一环 | 龙蜥技术
如果需要在云上 HW-TEE 环境里启动一个加密容器,如何在启动过程中获取容器的解密密钥?
揭秘远程证明架构EAA:机密容器安全部署的最后一环 | 龙蜥技术
|
Web App开发 存储 JavaScript
使用WebGL打造3D交互体验
WebGL是一种基于Web标准的3D图形渲染技术,它允许在浏览器中实现高性能的3D图形渲染和交互体验。通过WebGL,开发者可以在Web应用中创建令人惊叹的3D场景和交互效果,从而提升用户体验。本文将深入探讨WebGL的基本原理和使用方法,介绍如何使用WebGL打造精美的3D交互体验。
694 0