hadoop3自学入门笔记(1)——虚拟机安装和网络配置

本文涉及的产品
云防火墙,500元 1000GB
简介: hadoop3自学入门笔记(1)——虚拟机安装和网络配置

前言

年过30惶惶不安,又逢疫情,还是不断学习,强化自己的能力。hadoop的视频和书籍在15年的时候就看过,但是一直没动手实践过,要知道技术不经过实战,一点提升也没有。因此下定决心边学边做,希望能有所收获。


软件版本介绍

  • virtualbox 6.1
  • centos7
  • hadoop-3.2.1
  • jdk-8u241-linux-x64
  • xshell
  • xftp

虚拟机配置规划

name

ip

role

61

192.168.3.61

namenode,datanode

62

192.168.3.62

datanode

63

192.168.3.63

namenode,datanode

64

192.168.3.64

datanode


虚拟机的创建

安装virtualbox

新建虚拟机如下图所示:

1.png



选择red hat 64位。点击下一步,内存根据情况设置


2.png


下一步


3.png


现在创建虚拟机硬盘,点击创建。


4.png


勾选第一个,下一步。


5.png


动态分配,下一步。


6.png


点击创建。


7.png


双击启动。


8.png


注册系统镜像iso.启动安装


记得设置连接方式,桥接网卡,可以让虚拟机和本机在同一个网络下。


9.png

复制虚拟机,避免多次安装

10.png

右击复制


虚拟机配置ip

  1. 修改192.168.3.61的网络配置,192.168.3.62,192.168.3.63,192.168.3.64的雷同。
# vi /etc/sysconfig/network-scripts/ifcfg-ens3
TYPE=Ethernet
BOOTPROTO=static //dhcp改成static
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=yes //no改成yes
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens3
UUID=851ae637-14d4-4435-9c38-d3a3e4c2f0c3
DEVICE=ens3
IPADDR=192.168.3.61 //新加上的
NETMASK=255.255.255.0 //新加上的
GATEWAY=192.168.3.1 //新加上的
ONBOOT=yes //no改成yes


2.重启网络

# service network restart

当所有结果都显示为OK时,才能成功。


3.curl测试网络是否通了

1.png

返回网页表示统领。


使用 xshell

在虚拟机中输入命令很受,让我们用专门的客户端吧,让你写命令6的起飞。


2.png


点击连接,输入用户名和密码,记得勾选记住用户名和密码。下次就避免输入了。


SSH免密码登录

ssh-keygen 用来生成ssh登录的key,可以使我们以后登录远程主机时无需再输入远程主机的key具体使用方法如下:

当我们需要用主机61登录远程主机62时,我们在主机61上输入:


1.生成Key

# ssh-keygen -t rsa

会产生如下的信息:


2.key的名称输入id_rsa,密码直接回车表示空

Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):      ->输入key文件的名称
Enter passphrase (empty for no passphrase):                 ->输入使用key时的密码,注意这里不是远处服务器的密码,
                                               只是你使用sshkey时需要输入的密码,
                                     建议不输入(如果要输入这个密码还不如直接输入远处主机的密码:))
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
11:ae:00:bd:92:bc:70:f8:4b:cb:47:06:7f:e2:73:21 root@xxxxxx

3.把公匙复制到62

scp id_rsa.pub 192.168.3.62:/root/.ssh/

4.远程到62

ssh 192.168.3.62    ->登录远程主机
root@192.168.3.62's password: ->输入密码

5.生成authorized_keys

# cd /root/.ssh    ->进入到key目录
# cat id_rsa.pub >> authorized_keys

6.修改.ssh和authorized_keys权限。退出62,重启ssh服务

600 设置拥有者可读写,其他人不可读写执行,

700** **** 只有拥有者有读、写、执行权限。**

#chmod 700 .ssh
#chmod 600  authorized_keys     
#exit    -> 推出远程62服务器
#service sshd restart  ->重新启动ssh服务
#ssh 192.168.3.62  ->远程登录到62测试下吧:)

关闭防火墙

了使两台机器之间进行通信,还需要将每个节点的防火墙都关闭。关闭防火墙有两种方法,一种是永久生效;另一种是立即生效,重启后无效。这两条命令我们可以都运行一遍,这样就代表防火墙立即关闭,并且机器重启后仍然处于关闭状态。

停止firewall

systemctl stop firewalld.service

禁止firewall开机启动

systemctl disable firewalld.service


相关文章
|
20天前
|
Linux 开发工具 Android开发
FFmpeg开发笔记(六十)使用国产的ijkplayer播放器观看网络视频
ijkplayer是由Bilibili基于FFmpeg3.4研发并开源的播放器,适用于Android和iOS,支持本地视频及网络流媒体播放。本文详细介绍如何在新版Android Studio中导入并使用ijkplayer库,包括Gradle版本及配置更新、导入编译好的so文件以及添加直播链接播放代码等步骤,帮助开发者顺利进行App调试与开发。更多FFmpeg开发知识可参考《FFmpeg开发实战:从零基础到短视频上线》。
82 2
FFmpeg开发笔记(六十)使用国产的ijkplayer播放器观看网络视频
|
28天前
|
机器学习/深度学习 数据可视化 计算机视觉
目标检测笔记(五):详细介绍并实现可视化深度学习中每层特征层的网络训练情况
这篇文章详细介绍了如何通过可视化深度学习中每层特征层来理解网络的内部运作,并使用ResNet系列网络作为例子,展示了如何在训练过程中加入代码来绘制和保存特征图。
54 1
目标检测笔记(五):详细介绍并实现可视化深度学习中每层特征层的网络训练情况
|
30天前
|
机器学习/深度学习 数据可视化 Windows
深度学习笔记(七):如何用Mxnet来将神经网络可视化
这篇文章介绍了如何使用Mxnet框架来实现神经网络的可视化,包括环境依赖的安装、具体的代码实现以及运行结果的展示。
49 0
|
28天前
|
机器学习/深度学习 编解码 算法
轻量级网络论文精度笔记(三):《Searching for MobileNetV3》
MobileNetV3是谷歌为移动设备优化的神经网络模型,通过神经架构搜索和新设计计算块提升效率和精度。它引入了h-swish激活函数和高效的分割解码器LR-ASPP,实现了移动端分类、检测和分割的最新SOTA成果。大模型在ImageNet分类上比MobileNetV2更准确,延迟降低20%;小模型准确度提升,延迟相当。
53 1
轻量级网络论文精度笔记(三):《Searching for MobileNetV3》
|
29天前
|
机器学习/深度学习 网络架构 计算机视觉
目标检测笔记(一):不同模型的网络架构介绍和代码
这篇文章介绍了ShuffleNetV2网络架构及其代码实现,包括模型结构、代码细节和不同版本的模型。ShuffleNetV2是一个高效的卷积神经网络,适用于深度学习中的目标检测任务。
64 1
目标检测笔记(一):不同模型的网络架构介绍和代码
|
19天前
|
Ubuntu Linux 虚拟化
Linux虚拟机网络配置
【10月更文挑战第25天】在 Linux 虚拟机中,网络配置是实现虚拟机与外部网络通信的关键步骤。本文介绍了四种常见的网络配置方式:桥接模式、NAT 模式、仅主机模式和自定义网络模式,每种模式都详细说明了其原理和配置步骤。通过这些配置,用户可以根据实际需求选择合适的网络模式,确保虚拟机能够顺利地进行网络通信。
|
28天前
|
机器学习/深度学习 数据采集 算法
目标分类笔记(一): 利用包含多个网络多种训练策略的框架来完成多目标分类任务(从数据准备到训练测试部署的完整流程)
这篇博客文章介绍了如何使用包含多个网络和多种训练策略的框架来完成多目标分类任务,涵盖了从数据准备到训练、测试和部署的完整流程,并提供了相关代码和配置文件。
43 0
目标分类笔记(一): 利用包含多个网络多种训练策略的框架来完成多目标分类任务(从数据准备到训练测试部署的完整流程)
|
29天前
|
编解码 人工智能 文件存储
轻量级网络论文精度笔记(二):《YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object ..》
YOLOv7是一种新的实时目标检测器,通过引入可训练的免费技术包和优化的网络架构,显著提高了检测精度,同时减少了参数和计算量。该研究还提出了新的模型重参数化和标签分配策略,有效提升了模型性能。实验结果显示,YOLOv7在速度和准确性上超越了其他目标检测器。
46 0
轻量级网络论文精度笔记(二):《YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object ..》
|
30天前
|
机器学习/深度学习 Python
深度学习笔记(九):神经网络剪枝(Neural Network Pruning)详细介绍
神经网络剪枝是一种通过移除不重要的权重来减小模型大小并提高效率的技术,同时尽量保持模型性能。
45 0
深度学习笔记(九):神经网络剪枝(Neural Network Pruning)详细介绍
|
30天前
|
机器学习/深度学习 算法 TensorFlow
深度学习笔记(五):学习率过大过小对于网络训练有何影响以及如何解决
学习率是深度学习中的关键超参数,它影响模型的训练进度和收敛性,过大或过小的学习率都会对网络训练产生负面影响,需要通过适当的设置和调整策略来优化。
234 0
深度学习笔记(五):学习率过大过小对于网络训练有何影响以及如何解决
下一篇
无影云桌面