Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: Linux手动清理Linux脚本日志定时清理日志和log文件执行表达式

Linux手动清理

清理journal日志

目录/var/log/journal

journalctl --vacuum-size=10M

复制

1)只保留近一周的日志

journalctl --vacuum-time=1w

复制

Linux下查找大文件

所有选项:

-a 查看目录中所有文件大小
-b 显示目录文件夹大小,单位b
-k 显示目录文件夹大小,单位kb
-m 显示目录文件夹大小,单位M
-s 显示你指定的或当前目录所有文件总大小
-h 以kb,mb,gb为单位显示

复制

  • 查找大于100M的文件
find . -type f -size +100M

复制

  • 显示全部文件占用空间
du -s /*

复制

  • 显示前10个占用空间最大的文件或目录
du -s * | sort -nr | head

复制

  • 把文件和文件夹列表从小到大排序
du -sh * |sort -n

复制

  • 查找某个文件 并删除他
find -name filename.* | xargs rm -rf

复制

  • 批量查找某个字符并进行替换
sed -i "s/查找字段/替换字段/g" `grep 查找字段 -rl 路径`

复制

Linux删除大量文件会报错 -bash: /bin/rm: Argument list too long

ls | xargs -n 10 rm -fr ls

复制

解释:输出所有的文件名(用空格分割) xargs就是将ls的输出,每10个为一组(以空格为分隔符),作为rm -rf的参数也就是说将所有文件名10个为一组,由rm -rf删除

Linux脚本

CleanLogFile.sh

# 每天早上6点执行    0  6 * * *  sh /log/CleanLogFile.sh
#!/bin/bash
#清理日志路径
path=/var
filename=$path/BigLog.txt
 
#搜索大于10KB的文件
#-size +10k
#搜索小于10KB的文件
#-size -10k
#搜索等于10KB的文件
#-size 10k
 
if [ $# -ne 1 ]  
then  
        #echo "默认设置文件大小为500M"  
        filesize=1k
    else
        filesize=$1
fi 
 
 
echo "设置清除文件大小:$filesize"
 
 
if [  -f "$filename" ]; then    
    rm -rf $filename
    echo  "原始文件已删除"
else
    echo "$filename不存在"
fi 
 
find $path -name "*.*"  -size +$filesize -exec ls -lh {} \; | awk '{ print $5,$9}' > $filename
 
for line in `cat $filename`
do
  #如果有匹配的内容则立即返回状态值0
    echo "$line" | grep -q "$path"
    #$? 是指上一条命令的执行状态, 0就是正常
    if [  $? -eq 0 ]
    then
        #获取文件类型
        filetype=${line#*.}
        if [ $filetype == "zip"  ];then
            echo "rm -rf $line"
            rm -rf $line
        else
            echo "执行清空命令 cat /dev/null > $line"
            cat /dev/null  >  $line
        fi
    fi
done
 

安装定时任务

yum install crontabs
 
/sbin/service crond start //启动服务
 
/sbin/service crond stop //关闭服务
 
/sbin/service crond restart //重启服务
 
/sbin/service crond reload //重新载入配置
 
service crond status //查看状态
 

定时任务执行命令

#启动crontab
service crond start
 
crontab -e
#每分钟执行一次(测试用)
*/1 * * * * /usr/local/xiao_sh/CleanLogFile.sh >/dev/null 2>&1
 
#天天凌晨1点执行一次(生产环境)
0 1 * * * /usr/local/xiao_sh/CleanLogFile.sh >/dev/null 2>&1
 
#重载crontab
service crond reload
 
常用命令:
 
   crontab -l    :查看定时任务
 
   crontab -e    :添加任务
 
   crontab -r   :删除任务
 
   cat  /etc/crontab    :查看crontab文件
 
    现在我们来添加一条任务:
 
     59 23 * * * /var/local/CleanLogFile.sh status >>/var/local/clear.txt   
 
    :每天23:59执行脚本并输出到clear.txt文件 ,定时任务的写法:*(分)  *(时) *(日) *(月) *(周) 
 

执行表达式

实例1:每1分钟执行一次cmd,cmd表示要执行的命令
* * * * * cmd
 
实例2:每小时的第3和第15分钟执行
3,15 * * * * cmd
  
实例3:在上午8点到11点的第3和第15分钟执行
3,15 8-11 * * * cmd
 
实例4:每隔两天的上午8点到11点的第3和第15分钟执行
3,15 8-11 */2  *  * cmd
  
实例5:每周一上午8点到11点的第3和第15分钟执行
3,15 8-11 * * 1 cmd
  
实例6:每晚的21:30执行
30 21 * * * cmd
 
实例7:每月1、10、22日的4 : 45执行
45 4 1,10,22 * * cmd
 
实例8:每周六、周日的1 : 10执行
10 1 * * 6,0 cmd
 
实例9:每天18 : 00至23 : 00之间每隔30分钟执行
*/30 18-23 * * * cmd
 
实例10:每星期六的晚上11 : 00 pm执行
0 23 * * 6 cmd
 
实例11:每一小时执行
0 */1 * * * cmd
 
实例12:晚上11点到早上7点之间,每隔一小时执行
0 23-7 * * * cmd


相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
14天前
|
Linux 开发工具
7种比较Linux中文本文件的最佳工具
7种比较Linux中文本文件的最佳工具
7种比较Linux中文本文件的最佳工具
|
4天前
|
Linux
【Linux】 Linux文件I/O常见操作技巧
以上就是Linux文件I/O操作的一些技巧,接纳它们,让它们成为你在Linux世界中的得力伙伴,工作会变得轻松许多。不过记住,技巧的运用也需要根据实际情况灵活掌握,毕竟,最适合的才是最好的。
51 28
|
3天前
|
Ubuntu Linux
"unzip"命令解析:Linux下如何处理压缩文件。
总的来说,`unzip`命令是Linux系统下一款实用而方便的ZIP格式文件处理工具。本文通过简明扼要的方式,详细介绍了在各类Linux发行版上安装 `unzip`的方法,以及如何使用 `unzip`命令进行解压、查看和测试ZIP文件。希望本文章能为用户带来实际帮助,提高日常操作的效率。
33 12
|
1月前
|
Linux Shell
Linux系统下快速批量创建和删除文件的方法
总的来说,使用shell脚本来批量处理文件是一种非常强大的工具,只要你愿意花时间学习和实践,你会发现它能大大提高你的工作效率。
90 19
|
2月前
|
监控 Linux
Linux基础:文件和目录类命令分析。
总的来说,这些基础命令,像是Linux中藏匿的小矮人,每一次我们使用他们,他们就把我们的指令准确的传递给Linux,让我们的指令变为现实。所以,现在就开始你的Linux之旅,挥动你的命令之剑,探索这个充满神秘而又奇妙的世界吧!
90 19
|
2月前
|
Linux
Linux 常用文件查看命令
`cat` 命令用于连接文件并打印到标准输出,适用于快速查看和合并文本文件内容。常用示例包括:`cat file1.txt` 查看单个文件,`cat file1.txt file2.txt` 合并多个文件,`cat > filename` 创建新文件,`cat >> filename` 追加内容。`more` 和 `less` 命令用于分页查看文件,`tail` 命令则用于查看文件末尾内容,支持实时追踪日志更新,如 `tail -f file.log`。
89 5
Linux 常用文件查看命令
|
1月前
|
缓存 Linux
如何创建Linux交换文件?Linux交换文件最新创建方法
Swap是Linux中的虚拟内存空间,用于在物理内存不足时将非活动进程移至磁盘,从而优化活动进程的性能。通过创建交换文件(如1GB),可灵活调整交换空间而无需重新分区。步骤包括:使用`fallocate`或`dd`创建文件、设置权限 (`chmod 600`)、格式化 (`mkswap`)、启用交换 (`swapon`)、修改`/etc/fstab`以持久化配置,以及调整`vm.swappiness`值(默认60,建议从10开始)来平衡内存与交换的使用。最后通过`swapon -s`检查状态并重启生效。此方法适用于VPS和专用服务器,需以root用户操作。
65 2
|
2月前
|
监控 Shell Linux
Android调试终极指南:ADB安装+多设备连接+ANR日志抓取全流程解析,覆盖环境变量配置/多设备调试/ANR日志分析全流程,附Win/Mac/Linux三平台解决方案
ADB(Android Debug Bridge)是安卓开发中的重要工具,用于连接电脑与安卓设备,实现文件传输、应用管理、日志抓取等功能。本文介绍了 ADB 的基本概念、安装配置及常用命令。包括:1) 基本命令如 `adb version` 和 `adb devices`;2) 权限操作如 `adb root` 和 `adb shell`;3) APK 操作如安装、卸载应用;4) 文件传输如 `adb push` 和 `adb pull`;5) 日志记录如 `adb logcat`;6) 系统信息获取如屏幕截图和录屏。通过这些功能,用户可高效调试和管理安卓设备。
|
3月前
|
存储 Linux Shell
Linux|Transfer.sh 轻松实现文件共享
Linux|Transfer.sh 轻松实现文件共享
Linux|Transfer.sh 轻松实现文件共享
|
2月前
|
Linux 网络安全 虚拟化
linux怎么把文件传到docker里面
在现代应用开发中,Docker作为流行的虚拟化工具,广泛应用于微服务架构。文件传输到Docker容器是常见需求。常用方法包括:1) `docker cp`命令直接复制文件;2) 使用`-v`选项挂载宿主机目录,实现数据持久化和实时同步;3) 通过SCP/FTP协议传输文件;4) 在Dockerfile中构建镜像时添加文件。选择合适的方法并确保网络安全是关键。
251 1

热门文章

最新文章