Linux文件系统与日志分析

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 1、inode和block概述2、模拟inode耗尽实验3、ext类型文件恢复4、xfs类型文件恢复5、日志文件6、日志分析

1、文件:文件是存储在硬盘上的,硬盘的最小存储单位叫做“扇区”(sector),每个扇区存储512字节。一个文件必须占用一个inode, 并且至少占用一个块(block)。

        块: 一般连续八个扇区组成一个"块"(block),一个块是4K大小,是文件存取的最小单位,文件数据存储在“块”中。

   inode:中文名叫做 ”索引节点“ 用来存储文件元信息,,inode不包含文件名。文件名是存放在目录当中的。Linux 系统中一切皆文件,因此目录也是一种文件。

 

当用户在Linux系统中试图访问一个文件时,系统会先根据文件名去查找它对应的inode号码;通过inode号码, 获取inode信息;根据inode信息,看该用户是否具有访问这个文件的权限; 如果有,就指向相对应的数据block,并读取数据。

 

查看文件inode号:


ls -i 文件名                  查看文件名对应的inode号码

stat 文件名                   查看文件inode信息中的inode号码


2、模拟inode节点耗尽

a)创建磁盘,管理磁盘,格式化一下,文件类型改为ext3


d1.pngd2.png


c)用for循环创建文件超出限制看能否创建,并查看挂载表


d3.pngd4.png

可以看出:磁盘内可用inode号使用完后,即使磁盘还剩余空间也无法再创建文件,除非删除内部文件,释放inode号。


3、ext文件恢复:

extundelete是一个 开源的Linux数据恢复工具, 支持ext3、 ext4文件系统。 (ext4只能在centos6版 本恢复)

步骤:


编译安装extundelete软件包

安装依赖包 :      e2fsprogs-libs-1. 41.12-18.el6.x86_ 64.rpm

                e2fsprogs-devel-1 .41.12-18.el6.x86_ _64.rpm

配置、编译及安装: extundelete-0.2.4.tar.bz2


使用fdisk创建分区/dev/sdc1,格式化ext3文件系统

fdisk /dev/sdb

partprobe /dev/sdb

mkfs.ext3 /dev/ sdb1

mkdir /mnt

mount /dev/sdb1 /mnt

df -hT

安装依赖包

yum -y install e2fsprogs-devel e2 fsprogs-l ibs

编译安装extundelete

cd /opt

wget http: //nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2

tar jxvf extundelete-0.2.4.tar.bz2

cd extundelete-0.2.4/

./configure --prefix=/usr/ local/ extundelete && make && make install

ln -s /usr/ local/extundelete/bin/* /usr/bin/


模拟删除并执行恢复操作:


cd /mnt

echo a>a

echo a>b

echo a>C .

echo a>d

ls

extundelete /dev/sdb1 --inode 2

查看文件系统/dev/sdc1下存在哪些文件,i节点是从2开始的,2代表该文件系统最开始的目录

rm-rf a b

extundelete /dev/sdc1 -- inode 2

cd ~

umount /mnt

extundelete /dev/sdc1 --restore-all

恢复/dev/sdc1文件系统下的所有内容

在当前目录下会出现一-个RECOVERED_ FILES/目录,里面保存了已经恢复的文件

ls RECOVERED_FILES/


4、xfs文件类型恢复:

CentOS 7 系统默认采用 xfs类型的文件,xfs 类型的文件可使用 xfsdump 与 xfsrestore 工具进行备份恢复。

xfsdump 命令常用的选项:

  • -f:指定备份文件目录
  • -L:指定标签 (session label)
  • -M:指定设备标签(media label)
  • -s:备份单个文件
  • -s 后面不能直接跟路径

xfsdump使用限制:

  • 1.只能备份已挂载的文件系统
  • 2.必须使用root的权限才能操作
  • 3.只能备份XFS文件系统
  • 4.备份后的数据只能让xfsrestore解析
  • 5.不能备份两个具有相同UUID的文件系统(可用 blkid命令查看)

步骤:

a)使用fdisk创建分区/dev/sdb1,格式化xfs文件系统


fdisk /dev/sdb

partprobe /dev/sdb

mkfs.xfs  /dev/sdb1

mkdir /sdb1

mount /dev/sdb1 /sdb1

cd /sdb1

cp /etc/passwd ./

mkdir test

touch test/a


b)使用 xfsdump 命令备份整个分区


yum install -y xfsdump

xfsdump -f /opt/dump_sdb1 /dev/sdb1 -L dump_sdb1 -M sdb1


c)模拟数据丢失并使用 xfsrestore 命令恢复文件


cd /data/

rm -rf ./* ls

 

xfsrestore -f /opt/dump_ sdb1 /data/


实验图看着了解一下:


d5.pngd6.pngd7.pngd8.pngd9.pngd10.png


5、日志文件:

功能:用于记录系统、程序运行中发生的各种事件

          通过阅读日志,有助于诊断和解决系统故障

分类:内核及系统日志:

由系统服务rsyslog统一进行管理 ,日志格式基本相似

主配置文件/etc/rsyslog.conf

用户日志:

记录系统用户登录及退出系统的相关信息

程序日志:

由各种应用程序独立管理的日志文件,记录格式不统一


保存位置:

默认位置在: /var/log目录下


常见的日志文件:

内核及公共消息日志  /var/log/messages 记录Linux内核消息及各种应用程序的公共日志信息,包括启动、Io错误、网络错误、程序故障等

对于未使用独立日志文件的应用程序或服务,一般都可以从该日志文件中获得相关的事件记录信息

计划任务日志  /var/log/cron 记录crond计划任务产生的事件信息

系统引导日志  /var/log/dmesg 记录Linux系统在引导过程中的各种事件信息

邮件系统日志 /var/log/maillog 记录进入或发出系统的电子邮件活动

用户登录日志 /var/log/secure 记录用户认证相关的安全事件信息

/var /log/lastlog 记录每个用户最近的登录事件,二进制格式

/var/log/wtmp 记录每个用户登录、注销及系统启动和停机事件,二进制格式

/var/run/btmp 记录失败的、错误的登录尝试及验证事件,二进制格式


vim /etc/rsyslog.conf        查看rsyslog.conf配置文件

*.info;mail.none; authpriv.none; cron.none                     /var/ log/messages

*.info                              表示info等级及以上的所有等级的信息都写到对应的日志文件里

mail.none                        表示某事件的信息不写到日志文件里(这里比如是邮件)


内核及系统日志 :

内核及系统日志由系统服务rsyslog 统一管理,主配置文件为/etc/rsyslog.conf

Linux操作系统本身和大部分服务器程序的日志文件都默认放在目录/var/log/下

日志级别:

数字等级越小,优先级越高,消息越重要,日志等级一般级别定义到ERR 级别。

 

1650714336(1).png


日志记录的一般格式:

时间标签 :消息发出的日期和时间

主机名: 生成消息的计算机的名称

子系统名 :发出消息的应用程序的名称

消息字段:消息的具体内容


6、日志分析:

用户日志分析 <br>

a) 保存了用户登录、退出系统等相关信息

/varlog/lastlog:最近的用户登录事件

/var/log/wtmp:用户登录、注销及系统开、关机事件

/var/run/utmp:当前登录的每个用户的详细信息

/var/log/secure:与用户验证相关的安全性事件

 

b)分析工具

users、who、W、last、 lastb

last命令用于查询成功登录到系统的用户记录

lastb命令用于查询登录失败的用户记录



程序日志分析 :

由相应的应用程序独立进行管理

Web服务: /var/log/httpd/

access_ log //记录客户访问事件

error_ log //记录错误事件

代理服务: Ivar/log/squid/

access.log、cache.log

 

分析工具:

文本查看、grep过滤检索、Webmin管理套件中查看

awk、sed等文本过滤、格式化编辑工具

Webalizer、Awstats等专用日志分析工具



日志管理:

及时作好备份和归档

延长日志保存期限

控制日志访问权限

日志中可能会包含各类敏感信息,如账户、口令等

 

集中管理日志

将服务器的日志文件发到统一的日志文件服务器

便于日志信息的统- -收集、整理和分析

杜绝日志信息的意外丢失、恶意篡改或删除

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
2天前
|
存储 运维 监控
深入Linux基础:文件系统与进程管理详解
深入Linux基础:文件系统与进程管理详解
33 8
|
6天前
|
监控 Linux 开发者
如何在 Linux 中优雅的使用 head 命令,用来看日志简直溜的不行
`head` 命令是 Linux 系统中一个非常实用的工具,用于快速查看文件的开头部分内容。本文介绍了 `head` 命令的基本用法、高级用法、实际应用案例及注意事项,帮助用户高效处理文件和日志,提升工作效率。
17 7
|
7天前
|
存储 Linux 文件存储
Linux文件系统
Linux文件系统 一切皆文件 在Linux中,“一切皆文件”的概念意味着系统中的所有资源,包括硬件设备、目录及进程等,均被视为文件。这种设计简化了操作和管理,具体包括: 普通文件:存储数据的常规文件。 目录文件:包含其他文件和子目录的文件。 进程文件:在/proc目录下代表系统中运行的进程。 设备文件:位于/dev目录,代表硬件设备。 网络字节流套接字文件:用于网络通信的数据流。 链接文件:指向另一个文件的符号链接或硬链接。 管道文件:用于进程间通信的文件。
37 7
|
29天前
|
监控 网络协议 安全
Linux系统日志管理
Linux系统日志管理
41 3
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控总结
Linux系统命令与网络,磁盘和日志监控总结
53 0
|
1月前
|
监控 Linux 测试技术
Linux系统命令与网络,磁盘和日志监控三
Linux系统命令与网络,磁盘和日志监控三
37 0
|
2月前
|
存储 Linux 索引
Linux 下最主流的文件系统格式——ext
【9月更文挑战第8天】硬盘被划分为若干相同大小的块(Block),默认大小为4K,便于灵活管理文件数据。文件数据分散存放于这些块中,提高了数据添加、删除和插入的便利性。
|
3月前
|
存储 人工智能 数据管理
深入理解Linux操作系统之文件系统管理探索人工智能:从理论到实践的旅程
【8月更文挑战第30天】在探索Linux的无限可能时,我们不可避免地会遇到文件系统管理这一核心话题。本文将深入浅出地介绍Linux文件系统的基础知识、操作命令及高级技巧,帮助你更有效地管理和维护你的系统。从基础概念到实践应用,我们将一步步揭开Linux文件系统的神秘面纱。
|
2月前
|
存储 缓存 Linux
Linux文件系统的功能规划
【9月更文挑战第12天】本文通过类比图书馆,形象地解释了文件系统的组织形式和管理方法。首先,文件系统需按块存储文件,并设有索引区方便查找。其次,热点文件应有缓存层提高效率,文件需分类存储以便管理。最后,Linux内核需记录文件使用情况,通过文件描述符区分不同文件,确保文件操作准确无误。
|
6月前
|
存储 监控 安全
《Linux 简易速速上手小册》第6章: 磁盘管理与文件系统(2024 最新版)
《Linux 简易速速上手小册》第6章: 磁盘管理与文件系统(2024 最新版)
65 1