环境搭建-01-配置网络和主机名|学习笔记

本文涉及的产品
云防火墙,500元 1000GB
简介: 快速学习环境搭建-01-配置网络和主机名

开发者学堂课程【快速掌握 Hadoop 集成 Kerberos 安全技术环境搭建-01-配置网络和主机名】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址https://developer.aliyun.com/learning/course/708/detail/12556


环境搭建-01-配置网络和主机名


内容介绍:

一、各软件版本信息

二、部署节点信息

三、基础系统环境准备


一.各软件版本信息

本次课程基于使用的软件环境如下:

1.CDH 5.14.4

(1)hadoop2.6.0-cdh5.14.4

(2)hive1.1.1-cdh5.14.4

2.CentOS 6.9x64操作系统

3.JDK 1.8 and 使用一会 jdk1.7(for maven)编译源码时讲解

4.apache-maven-3.0.5 版本,后面需要编译 hadoop 源码

5.Kerberos 使用在线 yum 库提供的最新版本


二.部署节点信息

本次课程使用4台虚拟机服务器来进行演示,主机名分别是 cdh0、cdh1、cdh2、cdh3,cdh3 是 Kerberos 的 server 端,部署 Kerberos server,AS、TGT 服务统称为 KDC。cdh0、cdh1、cdh2 主要部署 Kerberos 的客户端,同时三个节点是 hadoop 集群。cdh0 作为 master 节点,cdh1、cdh2 作为 slave 节点。

CDH0有 hadoop master Kerberos client、CDH1 hadoop slave Kerberos client、CDH2 hadoop slave Kerberos client、CDH3 仅仅有 Kerberos Server 部署。

image.png

·主机名 cdh0(FQDN:cdh0.itcast.cn):hadoop 的 master 节点,部署 namenode,resourcemanacer,hive server2,historyserver 等 master 角色以及 Kerberos 的客户端

·主机名 cdh1(FQDN:cdh1.itcast.cn):hadoop 的 slave 节点,部署 datanode,nodemanager 等 slave 角色以及 Kerberos 的客户端

·主机名 CDH2(FQDN:cdh2.itcast.cn):同 CDH1

·主机名 CDH3(FODN:cdh3.itcast.cn):Kerberos 的 server 端,部署 Kerberos server

硬件配置:

CDHO、CDH1、CDH2均为1核心3GB 内存配置,

image.png

image.png

image.png

CDH3为1核心1GB 内存,CDH3 仅仅作为 Kerberos server 使用,对资源要求不太高。

image.png

可以根据主机的配置情况做相应增删

主机配置低 slave 节点可以删除一个,比如 CDH2 可以删除不要,以节省内存开销

如果内存比较大可以给 slave 节点配置三个,来模拟更加真实的环境

安装实战步骤,启动 CDH0、CDH1、CDH2、CDH3,机器仅仅安装好操作系统,网络配置好后可在外面使用命令行工具。

环境准备需要为了方便关闭防火墙,配置主机名、配置各个主机 IP 地址、配置/etc/hosts 文件、安装必要软件(通过 yum 在线安装)、配置 ntp 时间同步、创建用户和组以及配置各自的 ssh 免密登录、上传 Hadoop 软件包、安装 jdk、配置环境变量。


三.基础系统环境准备

1.配置防火墙服务

输入账户密码进入系统,输出 service iptables stop 关闭防火墙

chkonfig iptables off 关闭防火墙开机自启

CentOS release 6.9 (Final)

Kerne1 2.6.32-696.e16.x86_64 on an x86_64

cdh0 login:root

Password:

Lastlogin:WedSep487:55:31 from 192.168.179.1

[root@cdh0“]# service iptables stop

iptables: Setting chains to policy ACCEPT:filter [OK ]

iptables: Flushing firewall rules: [ OK ]

iptables: Unloading modules: [OK ]

[root@cdh0 “]# chkconfig iptables off

[root@cdh0~]#_

其它机器相同。

2.配置主机名

编辑 vim/etc/sysconf ig/network 文件,HOSTNAME 主机名为 cdh0,需要配置 FQDN 形式的主机名。FQDN 形式的主机名是比较长的主机名,除了本身的主机名外,还要带上主机所在的域。cw.baidu.com,baidu.com 是 baidu 的域、cw.gg.com,gg.com 是 gg 的域。.itcast.cn 作为主机的域。FQDN 形式的主机名形式是主机名.加域,cdh0.itcast.cn,cdh0 是主机名,.itcast.cn 是域,合起来形成 FQDN 形式比较长的主机名。其它机器相同。

修改`/etc/sysconfig/network 文件,设置 HOSTNAME 为需要的主机名

这里设置 FQDN 形式,保存即可

FQDN 形式的主机名就是包含完整的主机所在域(所在组织)的主机名

如 cdh0.itcast.cn 其中 cdh0 是简写的主机名 .itcast.cn 是这台主机的所在域也就是domain

hadoop 中配置建议使用 FQDN 形式的主机名

3.配置各个主机 IP 地址

vim/etc/sysconfig/network 主机名后加-scripts,vim/etc/sysconfig/network-scripts 进入目录有 ifcfg-eth0

eth0 网卡配置,基本配置

DEVICE="eth0"

BOOTPROTO=“none"

HWADDR="00:0C:29:D1:04:BB"

IPU6INIT="yes"

NM_CONTROLLED="yes"

ONBOOT="yes"

TYPE-"Ethernet"

UUID="627b4679-e0db-4a88-8870-c11b07b68463" IPADDR=192.168.179.200

NETMASK=255.255.255.0

GATEWAY=192.168.179.1

DNS1=192.168.179.1

DEVICE 表示名字,HWADDR 表示网卡的 make 地址,可以删掉,虚拟机 make 地址经常产生错乱,不用管它,可自动生成。ONBOOT 一定写成 yes 表示开机启动时会启动。IPADDR IP 地址、NETMASK 子网掩码、GATEWAY 网关、DNS1 DNS 服务器。

IPADDR=192.168.179.200改成192.168.66.200,老师演示的网段是 192.168.66.0 网段,NETMASK 子网掩码不用变,老师机器网关是192.168.66.2,DNS 也设置为 192.168.66.2。

ONBOOT="yes"

TYPE-"Ethernet"

UUID="627b4679-e0db-4a88-8870-c11b07b68463" IPADDR=192.168.66.200

NETMASK=255.255.255.0

GATEWAY=192.168.66.2

DNS1=192.168.66.2

重启网络,使用 service network restart 出现错误

"/etc/sysconfig/network-scripts/ifcfg-eth0"11L,222C written

[root@cdh0“]#

[root@cdh0“]#

[root@cdh0“]#

[root@cdh0"]# service network restart

Shutting dowm loopback interface: [OK ]

Bringing up loopback interface: [ OK ]Brinaina up interface eth0: Device eth0 does not seem to be present,delaying initialization.

[FAILED]

[root cdh0“]#

关闭 NetworkManager,NetworkManager 在图形化界面配置网络,命令行用不到。开机自启关闭

[root@cdh0“]# service NetworkManager stop

Stopping NetworkManager daemon: [FAILED]

[root@cdh0“]#chkconfig NetworkManager off

[root@cdh0“]#

其他机器同样操作。HWADDR 删除,虚拟机各自复制来复制去产生物理地址的冲突,直接删掉,不需要手写。主要修改 IPADDR、NETMAS

K、GATEWAY、DNS 四个地址。

修改完后 IP 地址没有生效,虚拟机是重启的。配置网络 service net

work restar 重启,起不来。

删除 rm/etc/udev/rules.d/70-persistent-net.rules

[root@cdh0“]# service network restart

Shutting down loopback interface: [ OK ]

Bringing up loopback interface: [ OK ]

Bringing up interface eth0: Device eth0 does not seem to be present,delaying initialization

[FAILED]

[root@cdh0“]#rm/etc/udev/rules.d/70-persistent-net.rules

rm:remove regular file/etc/udev/rules.d/70-persistent-net.rules'? y

[root@cdh0“]#_

每个机器删除 rm/etc/udev/rules.d/70-persistent-net.rules,此文件记录网卡的硬件信息,虚拟机复制来复制去容易产生问题,删除重启。

关闭 Selinux,如果开启 Selinux 会出现问题。vim/etc/sysconfig /selinux 文件配置,将 enforcing 改成 disabled。

#This file controls the state of SELinux on the system.

# SELINUX= can take one of these three values:

# enforcing - SELinux security policy is enforced.

# permissive-SELinux prints warnings instead of enforcing

#disabled - No SELinux policy is loaded.

SELINUX=disabled

# SELINUXTYPE= can take one of these two values:

# targeted - Targeted processes are protected,

#mls - Multi Level Security protection.

SELINUXTYPE=targeted

改完后将网重启,执行 init 6。

重启后查看网络是否能正常使用 ,cdh0输入 ifconfig inetaddr:192.1

68.66.200 可以正常使用,说明 cdh0 网域配置好。

"/etc/sysconfig/selinux”13L,457C written

[root@cdh0“]# init 6_

其它机器相同操作

CentOS release 6.9(Final)

Kernel 2.6.32-696.e16.x86 64 on an x86_64

cdh0 login: root

Password:

Last login: Fri Sep 27 87:24:59 on tty1

[root@cdh8 “]# ifconfig

eth0 Link encap:Ethernet Hhaddr 00:0C:29:C2:93:BF

inet addr:192.168.66.200Bcast:19216866255 Mask:255.25 5.255.2

55.0

inet6 addr: fe00::20c:29ff:fec2:93bf/64 Scope:Link

UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packet

s:17 errors:0 dropped:0 overruns:0 frame:0TX packets:12 errors:0 dropped:0 overruns:8 carrier:0 collisions:0 txqueuelen:1000

RX butes:1020(1020.0 b)TX bytes:828(828.0 b)

lo Link encap:Local Loopback

inet addr:127.8.0.1Mask:255.0.0.0

inet6 addr: ::1/128 Scope:Host

UP LOOPBACK RUNNING MTU:65536 Metric:1

RX packets:0 errors:0 dropped:0 overruns:0 frame:0TX packets:0 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:0

RX bytes:0(0.0 b) TX bytes:0(0.0 b)

[root@cdh0~]#

尝试在 CRT 连接 cdh0、cdh1、cdh2、cdh3,192.168.66.200 为 ip 地址。

image.png

cdh0、cdh1、cdh2、cdh3 都连接上说明网络配置没问题。

image.png

4.配置`/etc/hosts`文件

vim /etc/hosts

添加:

192.168.66.200 cdh0.itcast.cn cdh0

192.168.66.201 cdh1 itcast.cn cdh1

192.168.66.202 cdh2 itcast.cn cdh2

192.168.66.203 cdh3 itcast.cn cdh3

192.168.66.200为 IP 地址,cdh0.itcast.cn FQDN 形式主机名,cdh0 简写的主机名。IP 两个主机名均可访问。

Last login: Fri Sep 27 07:35:17 2019

[root@cdh0 ~]# vim /etc/hosts127.0.0.1 localhost localhost.localdomain localhost4 local host4.lo

caldomain4::1 localhost localhost.localdomain localhost6 localhost6.localdo

main6

192.168.66.200 cdh0.itcast.cn cdh0

192.168.66.201 cdh1.itcast.cn cdh1

192.168.66.202 cdh2.itcast.cn cdh2

192.168.66.203 cdh3.itcast.cn cdh3

原本自带的127.0.0.1 localhost 不能动。前面是 IP 地址,后面是两个主机名,一个简写形式、一个 FQDN 形式,IP 两个主机名均可访问。复制每台机器相同配置。

相关文章
|
7天前
|
安全 网络安全 数据安全/隐私保护
|
24天前
|
Ubuntu 网络安全 图形学
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
在Ubuntu 20.04系统中解决网络图标消失和无法连接有线网络问题的方法,其中第三种方法通过检查并确保Windows防火墙中相关服务开启后成功恢复了网络连接。
251 0
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
|
22天前
|
网络协议 安全 网络安全
Cisco-网络端口地址转换NAPT配置
Cisco-网络端口地址转换NAPT配置
|
13天前
|
存储 缓存 Ubuntu
配置网络接口的“IP”命令10个
【10月更文挑战第18天】配置网络接口的“IP”命令10个
37 0
|
23天前
|
机器学习/深度学习 数据可视化 Linux
Seaborn可视化学习笔记(一):可视化神经网络权重分布情况
这篇文章是关于如何使用Seaborn库来可视化神经网络权重分布的教程,包括函数信息、测试代码和实际应用示例。
32 0
|
2月前
|
运维 监控 安全
网络管理:防火墙和安全组配置详解
网络管理:防火墙和安全组配置详解
61 1
|
2月前
|
Ubuntu Oracle 关系型数据库
Oracle VM VirtualBox之Ubuntu 22.04LTS双网卡网络模式配置
这篇文章是关于如何在Oracle VM VirtualBox中配置Ubuntu 22.04LTS虚拟机双网卡网络模式的详细指南,包括VirtualBox网络概述、双网卡网络模式的配置步骤以及Ubuntu系统网络配置。
169 3
|
2月前
|
域名解析 负载均衡 网络协议
Linux网络接口配置不当所带来的影响
总而言之,Linux网络接口的恰当配置是保证网络稳定性、性能和安全性的基础。通过遵循最佳实践和定期维护,可以最大程度地减少配置错误带来的负面影响。
119 0
|
1天前
|
存储 安全 算法
网络安全与信息安全:漏洞、加密技术及安全意识的重要性
如今的网络环境中,网络安全威胁日益严峻,面对此类问题,除了提升相关硬件的安全性、树立法律法规及行业准则,增强网民的网络安全意识的重要性也逐渐凸显。本文梳理了2000年以来有关网络安全意识的研究,综述范围为中国知网中篇名为“网络安全意识”的期刊、硕博论文、会议论文、报纸。网络安全意识的内涵是在“网络安全”“网络安全风险”等相关概念的发展中逐渐明确并丰富起来的,但到目前为止并未出现清晰的概念界定。此领域内的实证研究主要针对网络安全意识现状与问题,其研究对象主要是青少年。网络安全意识教育方面,很多学者总结了国外的成熟经验,但在具体运用上仍缺乏考虑我国的实际状况。 内容目录: 1 网络安全意识的相关
|
2天前
|
SQL 安全 算法
网络安全与信息安全:漏洞、加密技术与安全意识的交织
【10月更文挑战第28天】在数字时代的浪潮中,网络安全与信息安全成为保护个人隐私和企业资产的重要盾牌。本文将深入探讨网络安全中的常见漏洞,介绍加密技术的基本概念及其在保护数据中的应用,并强调提高安全意识的重要性。通过分析具体案例和提供实用的防护措施,旨在为读者提供一个全面的网络安全知识框架,以应对日益复杂的网络威胁。
17 4