hadoop3自学入门笔记(1)——虚拟机安装和网络配置

本文涉及的产品
云防火墙,500元 1000GB
简介: hadoop3自学入门笔记(1)——虚拟机安装和网络配置

前言

年过30惶惶不安,又逢疫情,还是不断学习,强化自己的能力。hadoop的视频和书籍在15年的时候就看过,但是一直没动手实践过,要知道技术不经过实战,一点提升也没有。因此下定决心边学边做,希望能有所收获。


软件版本介绍

  • virtualbox 6.1
  • centos7
  • hadoop-3.2.1
  • jdk-8u241-linux-x64
  • xshell
  • xftp

虚拟机配置规划

name

ip

role

61

192.168.3.61

namenode,datanode

62

192.168.3.62

datanode

63

192.168.3.63

namenode,datanode

64

192.168.3.64

datanode


虚拟机的创建

安装virtualbox

新建虚拟机如下图所示:

1.png



选择red hat 64位。点击下一步,内存根据情况设置


2.png


下一步


3.png


现在创建虚拟机硬盘,点击创建。


4.png


勾选第一个,下一步。


5.png


动态分配,下一步。


6.png


点击创建。


7.png


双击启动。


8.png


注册系统镜像iso.启动安装


记得设置连接方式,桥接网卡,可以让虚拟机和本机在同一个网络下。


9.png

复制虚拟机,避免多次安装

10.png

右击复制


虚拟机配置ip

  1. 修改192.168.3.61的网络配置,192.168.3.62,192.168.3.63,192.168.3.64的雷同。
# vi /etc/sysconfig/network-scripts/ifcfg-ens3
TYPE=Ethernet
BOOTPROTO=static //dhcp改成static
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=yes //no改成yes
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens3
UUID=851ae637-14d4-4435-9c38-d3a3e4c2f0c3
DEVICE=ens3
IPADDR=192.168.3.61 //新加上的
NETMASK=255.255.255.0 //新加上的
GATEWAY=192.168.3.1 //新加上的
ONBOOT=yes //no改成yes


2.重启网络

# service network restart

当所有结果都显示为OK时,才能成功。


3.curl测试网络是否通了

1.png

返回网页表示统领。


使用 xshell

在虚拟机中输入命令很受,让我们用专门的客户端吧,让你写命令6的起飞。


2.png


点击连接,输入用户名和密码,记得勾选记住用户名和密码。下次就避免输入了。


SSH免密码登录

ssh-keygen 用来生成ssh登录的key,可以使我们以后登录远程主机时无需再输入远程主机的key具体使用方法如下:

当我们需要用主机61登录远程主机62时,我们在主机61上输入:


1.生成Key

# ssh-keygen -t rsa

会产生如下的信息:


2.key的名称输入id_rsa,密码直接回车表示空

Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):      ->输入key文件的名称
Enter passphrase (empty for no passphrase):                 ->输入使用key时的密码,注意这里不是远处服务器的密码,
                                               只是你使用sshkey时需要输入的密码,
                                     建议不输入(如果要输入这个密码还不如直接输入远处主机的密码:))
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
11:ae:00:bd:92:bc:70:f8:4b:cb:47:06:7f:e2:73:21 root@xxxxxx

3.把公匙复制到62

scp id_rsa.pub 192.168.3.62:/root/.ssh/

4.远程到62

ssh 192.168.3.62    ->登录远程主机
root@192.168.3.62's password: ->输入密码

5.生成authorized_keys

# cd /root/.ssh    ->进入到key目录
# cat id_rsa.pub >> authorized_keys

6.修改.ssh和authorized_keys权限。退出62,重启ssh服务

600 设置拥有者可读写,其他人不可读写执行,

700** **** 只有拥有者有读、写、执行权限。**

#chmod 700 .ssh
#chmod 600  authorized_keys     
#exit    -> 推出远程62服务器
#service sshd restart  ->重新启动ssh服务
#ssh 192.168.3.62  ->远程登录到62测试下吧:)

关闭防火墙

了使两台机器之间进行通信,还需要将每个节点的防火墙都关闭。关闭防火墙有两种方法,一种是永久生效;另一种是立即生效,重启后无效。这两条命令我们可以都运行一遍,这样就代表防火墙立即关闭,并且机器重启后仍然处于关闭状态。

停止firewall

systemctl stop firewalld.service

禁止firewall开机启动

systemctl disable firewalld.service


相关文章
|
2月前
|
Linux 开发工具 Android开发
FFmpeg开发笔记(六十)使用国产的ijkplayer播放器观看网络视频
ijkplayer是由Bilibili基于FFmpeg3.4研发并开源的播放器,适用于Android和iOS,支持本地视频及网络流媒体播放。本文详细介绍如何在新版Android Studio中导入并使用ijkplayer库,包括Gradle版本及配置更新、导入编译好的so文件以及添加直播链接播放代码等步骤,帮助开发者顺利进行App调试与开发。更多FFmpeg开发知识可参考《FFmpeg开发实战:从零基础到短视频上线》。
163 2
FFmpeg开发笔记(六十)使用国产的ijkplayer播放器观看网络视频
|
15天前
|
机器学习/深度学习 资源调度 算法
图卷积网络入门:数学基础与架构设计
本文系统地阐述了图卷积网络的架构原理。通过简化数学表述并聚焦于矩阵运算的核心概念,详细解析了GCN的工作机制。
39 3
图卷积网络入门:数学基础与架构设计
|
5天前
|
Web App开发 网络协议 安全
网络编程懒人入门(十六):手把手教你使用网络编程抓包神器Wireshark
Wireshark是一款开源和跨平台的抓包工具。它通过调用操作系统底层的API,直接捕获网卡上的数据包,因此捕获的数据包详细、功能强大。但Wireshark本身稍显复杂,本文将以用抓包实例,手把手带你一步步用好Wireshark,并真正理解抓到的数据包的各项含义。
33 2
|
12天前
|
机器学习/深度学习 人工智能 算法
深度学习入门:用Python构建你的第一个神经网络
在人工智能的海洋中,深度学习是那艘能够带你远航的船。本文将作为你的航标,引导你搭建第一个神经网络模型,让你领略深度学习的魅力。通过简单直观的语言和实例,我们将一起探索隐藏在数据背后的模式,体验从零开始创造智能系统的快感。准备好了吗?让我们启航吧!
37 3
|
19天前
|
数据采集 XML 存储
构建高效的Python网络爬虫:从入门到实践
本文旨在通过深入浅出的方式,引导读者从零开始构建一个高效的Python网络爬虫。我们将探索爬虫的基本原理、核心组件以及如何利用Python的强大库进行数据抓取和处理。文章不仅提供理论指导,还结合实战案例,让读者能够快速掌握爬虫技术,并应用于实际项目中。无论你是编程新手还是有一定基础的开发者,都能在这篇文章中找到有价值的内容。
|
27天前
|
机器学习/深度学习 人工智能 算法框架/工具
深度学习中的卷积神经网络(CNN)入门
【10月更文挑战第41天】在人工智能的璀璨星空下,卷积神经网络(CNN)如一颗耀眼的新星,照亮了图像处理和视觉识别的路径。本文将深入浅出地介绍CNN的基本概念、核心结构和工作原理,同时提供代码示例,带领初学者轻松步入这一神秘而又充满无限可能的领域。
|
1月前
|
消息中间件 编解码 网络协议
Netty从入门到精通:高性能网络编程的进阶之路
【11月更文挑战第17天】Netty是一个基于Java NIO(Non-blocking I/O)的高性能、异步事件驱动的网络应用框架。使用Netty,开发者可以快速、高效地开发可扩展的网络服务器和客户端程序。本文将带您从Netty的背景、业务场景、功能点、解决问题的关键、底层原理实现,到编写一个详细的Java示例,全面了解Netty,帮助您从入门到精通。
99 0
|
1月前
|
机器学习/深度学习 自然语言处理 前端开发
前端神经网络入门:Brain.js - 详细介绍和对比不同的实现 - CNN、RNN、DNN、FFNN -无需准备环境打开浏览器即可测试运行-支持WebGPU加速
本文介绍了如何使用 JavaScript 神经网络库 **Brain.js** 实现不同类型的神经网络,包括前馈神经网络(FFNN)、深度神经网络(DNN)和循环神经网络(RNN)。通过简单的示例和代码,帮助前端开发者快速入门并理解神经网络的基本概念。文章还对比了各类神经网络的特点和适用场景,并简要介绍了卷积神经网络(CNN)的替代方案。
|
2月前
|
Java
[Java]Socket套接字(网络编程入门)
本文介绍了基于Java Socket实现的一对一和多对多聊天模式。一对一模式通过Server和Client类实现简单的消息收发;多对多模式则通过Server类维护客户端集合,并使用多线程实现实时消息广播。文章旨在帮助读者理解Socket的基本原理和应用。
29 1
|
2月前
|
Ubuntu Linux 虚拟化
Linux虚拟机网络配置
【10月更文挑战第25天】在 Linux 虚拟机中,网络配置是实现虚拟机与外部网络通信的关键步骤。本文介绍了四种常见的网络配置方式:桥接模式、NAT 模式、仅主机模式和自定义网络模式,每种模式都详细说明了其原理和配置步骤。通过这些配置,用户可以根据实际需求选择合适的网络模式,确保虚拟机能够顺利地进行网络通信。