配置 HDFS-启动 HDFS 测试|学习笔记

简介: 快速学习配置 HDFS-启动 HDFS 测试

开发者学堂课程【快速掌握 Hadoop 集成 Kerberos 安全技术配置 HDFS-启动 HDFS 测试】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址https://developer.aliyun.com/learning/course/708/detail/12566


配置 HDFS-启动 HDFS 测试


启动 HDFS 测试

1、启动 Namenode

认证 namenode 对应的 Kerberos 的账户

(1)向 Kerberos 认证 namenode 对应的账户:nn/cdh.itcast.cn@ITCAST.CN

得到认证才可以对 namenode 进行操作

首先切换到 hdfs 账户:su-hdfs

输入: kinit -kt jetc/security/keytabs/nn.service.keytab nn/cdh0.itcast.cn(认证)

会发现认证直接成功了,不需要验证密码,输入 klist 查看认证结果,正常如下:

[hdfseedhe ~1$ klist

Ticket cache: FILE:/tmp/krb5cc_505

Default principal:nn/cdhitcast.cn@ITCAST.CN

Valid starting Expires Service principal

09/26/19 11:59:08 09/27/19 11:59:08 krbtgt/ITCASTCNITCAST.CN

renew until 09/26/19 11:59:08

(2)格式化 namenode

执行 hadoop namenode -format,会发现 format 成功了

接下来启动 namenode 和 secondarynamenode

执行:hadoop-daemon.sh start namenade

为了确保安全,到 logs/hdfs 看一下路径和日志,看有没有报错。

接下来执行 hadoop-daemon.sh start secondarynamenode,启动后 jps 看一下,会发现 jps 没有启动成功,再来看一下 secondarynamenode 的日志,这里看到:

image.png

再去 cd /etc/security/keytabs/里看一下,因为没有创建 sn 对应的账户,再回到日常用户 klist 看一下

当前还是 admin 权限,再 kadmin 来执行 admin 账户的密码,输入之后在添加一下 addprinc -rankey sn/cdh0.itcast.cn@ITCAST.CN,创建完成之后得到了 randkey 的账户,同样创建 dtable 文件:

ktadd -k/etc/security/keytabs/sn.service.keytab sn/cdh0.itcast.cn@ITCAST.CN,运行后会发现多了 sn。

同样改下权限:chmod 400 sn.service.keytab

chown hdfs:hadoop sn.service.keytab

没问题后回到 hdf 账户上,看到 klist 的认证还在,再来启动一下 secondarynamenode,再 jbs 一下,查看日志,确保没有问题,启动完成后打开 namenode 网站看一下(必须带S的安全才能访问)

以下就是 https 的网站,如图:

image.png

2、启动 Datanode

切换到 hdfs 账户

在 cdh1cdh2上分别执行下面的流积

认证 datanode 对应的 Kerberos 账户

执行:kinit -kt /etc/security/keytabs/dn.service.keytab dn/cdh1.itcast.cn@ITCAST.CN(认证)

上面的 cdhi 在 cdh2执行的时候换成 cdh2

执行 klist 直看是否认证成功

https 本地用户就有权限来操作 namenode了,

直接执行 hadoop-daemon.sh start datanode,进行检查,没有问题对 cdh2进行操作,认证成功以后会发现正常的且认证好 dn/cdh2.itcast.cn@ITCAST.CN,这个时候 hdfs 就有权限操作 Datanode 了,进行检查,再回到链接里进行刷新,会发现 live nodes 就有两个了,hdfs 正确的启动了起来。

image.png

(1)上传文件测试 hdfs

切换到 hdfs 下,会看到 LICENSE.txt,把他上传到 Hadoop,上传到 a.txt

su-hdfs

kinit-kt jetc/securitv/kevtabs/nn.service.kevtab nn/cdhe.itcast.cn

cd /bigdata/hadoop-268-cdh5.14.4

hadoop fs=put/READMEtxt/readme.txt

[hdfs@cdh hadoop-2.6.0-cdh1441$ hadoop fs-1s/

Found 1 items

-rw-r--"-- 3 hdfs hdfs 1366 2019-09-26 13:57 /readme.txt

hadoop fs -cat /readme.txt

没有问题,说明 Hadoop 是可以正常工作的

(2)创建相应的 hdfs 目录,并设置权限

先改一下根目录的权限,改为 adf 账户才有根目录权限,创建 tmp 文件夹,把 tmp 文件夹权限改为 adf 账户,文件夹是临时的,都可以用,将他改为777的权限,同样创建一个 user 的目录,把 user 的所属改为 hdfs 账户,把 user 改为775的权限,在创建 mr-data,把他的权限改为 mapred 这个账户,在 tmp 底下创建个 hadoop-yarn,跑 yarn 时会有一些临时路径在这里

hadoop fs -chown hdfs:hadoop /

hadoop fs -mkdir /tmp I

hadoop fs -chown hdfs:hadoop /tmp

hadoop fs -chmod 777 /tmp

hadoop fs -mkdir juser

hadoop fs -chown hdfs:hadoop /user

hadoop fs -chmod 775 /user

hadoop fs -mkdir /mr-data

hadoop fs -chown mapred:hadoop imr-data

hadoop fs -mkdir /tmp/hadoop-yarn

hadoop fs -chmod 770 /tmp/hadoop-yarn

以上没有问题 hdfs 配置就完成了。

相关文章
|
9月前
|
Java 测试技术 数据安全/隐私保护
通过yaml文件配置自动化测试程序
通过yaml文件可以将自动化测试环境,测试数据和测试行为分开,请看一下案例
368 4
|
10月前
|
XML Ubuntu Java
如何在Ubuntu系统上安装和配置JMeter和Ant进行性能测试
进入包含 build.xml 的目录并执行:
489 13
|
运维 关系型数据库 MySQL
os-copilot安装_配置_功能测试全集
我是一位中级运维工程师,我平时工作会涉及到 各类服务器的 数据库 与 java环境配置 操作。 我顺利使用了OS Copilot的 -t -f | 功能,我的疑惑是不能在自动操作过程中直接给与脚本运行权限,必须需要自己运行一下 chmod 这个既然有了最高的权限,为什么就不能直接给与运行权限呢。 我认为 -t 功能有用,能解决后台运行基础命令操作。 我认为 -f 功能有用,可以通过task文件中撰写连续任务操作。 我认为 | 对文件理解上有很直接的解读,可以在理解新程序上有很大帮助。
484 86
|
人工智能 Ubuntu Linux
os-copilot使用之全面配置与使用测试
作为一名个人开发者,我主要从事云服务器架设工作。近期,我成功使用了OS Copilot的 `-t -f |` 功能,解决了执行语句、连续提问及快速理解文件的问题。我发现这些功能非常实用,特别是在使用Workbench时能快速调用AI助手。此外,建议将AI功能与xShell工具联动,进一步提升效率。文中详细记录了购买服务器、远程连接、安装配置OS Copilot以及具体命令测试的过程,展示了如何通过快捷键和命令行操作实现高效开发。
579 67
|
缓存 Java 测试技术
【01】噩梦终结flutter配安卓android鸿蒙harmonyOS 以及next调试环境配鸿蒙和ios真机调试环境-flutter项目安卓环境配置-gradle-agp-ndkVersion模拟器运行真机测试环境-本地环境搭建-如何快速搭建android本地运行环境-优雅草卓伊凡-很多人在这步就被难倒了
【01】噩梦终结flutter配安卓android鸿蒙harmonyOS 以及next调试环境配鸿蒙和ios真机调试环境-flutter项目安卓环境配置-gradle-agp-ndkVersion模拟器运行真机测试环境-本地环境搭建-如何快速搭建android本地运行环境-优雅草卓伊凡-很多人在这步就被难倒了
2123 3
【01】噩梦终结flutter配安卓android鸿蒙harmonyOS 以及next调试环境配鸿蒙和ios真机调试环境-flutter项目安卓环境配置-gradle-agp-ndkVersion模拟器运行真机测试环境-本地环境搭建-如何快速搭建android本地运行环境-优雅草卓伊凡-很多人在这步就被难倒了
|
域名解析 弹性计算 监控
slb测试基本配置检查
slb测试基本配置检查
409 60
|
Dart 前端开发 Android开发
【02】写一个注册页面以及配置打包选项打包安卓apk测试—开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草央千澈
【02】写一个注册页面以及配置打包选项打包安卓apk测试—开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草央千澈
645 1
【02】写一个注册页面以及配置打包选项打包安卓apk测试—开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草央千澈
|
数据可视化 前端开发 测试技术
接口测试新选择:Postman替代方案全解析
在软件开发中,接口测试工具至关重要。Postman长期占据主导地位,但随着国产工具的崛起,越来越多开发者转向更适合中国市场的替代方案——Apifox。它不仅支持中英文切换、完全免费不限人数,还具备强大的可视化操作、自动生成文档和API调试功能,极大简化了开发流程。
|
Java 测试技术 容器
Jmeter工具使用:HTTP接口性能测试实战
希望这篇文章能够帮助你初步理解如何使用JMeter进行HTTP接口性能测试,有兴趣的话,你可以研究更多关于JMeter的内容。记住,只有理解并掌握了这些工具,你才能充分利用它们发挥其应有的价值。+
1598 23
|
SQL 安全 测试技术
2025接口测试全攻略:高并发、安全防护与六大工具实战指南
本文探讨高并发稳定性验证、安全防护实战及六大工具(Postman、RunnerGo、Apipost、JMeter、SoapUI、Fiddler)选型指南,助力构建未来接口测试体系。接口测试旨在验证数据传输、参数合法性、错误处理能力及性能安全性,其重要性体现在早期发现问题、保障系统稳定和支撑持续集成。常用方法包括功能、性能、安全性及兼容性测试,典型场景涵盖前后端分离开发、第三方服务集成与数据一致性检查。选择合适的工具需综合考虑需求与团队协作等因素。
2125 24

热门文章

最新文章