[powershell运维] Web 服务器日志依日期归档

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: 本文记录了一个以 Jboss 服务器日志归档的 powershell 示范项目。该项目只需要略加修改,即可用于所有类似需要归档日志的场景。

[运维笔记] Web 服务器日志依日期归档


李俊才(jcLee95) 的个人博客
已入住阿里云博客
邮箱 :291148484@163.com
本文地址
- https://developer.aliyun.com/article/
- https://blog.csdn.net/qq_28550263/article/details/125185821

目 录


1.概述

2. Readme 文档 - VCS服务器 Jboss 日志压缩脚本

3. 项目源代码

附: 参考博文链接汇总


1.概述

本文记录了一个以 Jboss 服务器日志归档的 powershell 示范项目。该项目只需要略加修改,即可用于所有类似需要归档日志的场景。

Jboss 是一个Java Web 框架,在 Jboss Web 服务器运行期间,默认会生成许多server.log日志文件,你可以在 Jboss中设置每个 server.log 的最大大小,这样每当一个日志文件写满后,将后缀依次添加.1.2…以示区别,知道到达设置的最大日志文件个数后,将其删除。

在某些场景下,我们不希望有过多的大日志文件,或者希望在有限的服务器磁盘上存储更多的日志,以备保留服务器在生产运行下的某些重要信息,这个时候我们就需要对日志进行压缩归档,让日志文件更小,并且不至于被过早地由系统自动删除。

7zip 是一款不错的压缩软件,目前在WindowsLinux以及macOS上都有相应官方版本,它以极高的压缩比例独步武林,尤其适合压缩文本文件,往往一份纯文本日志能压缩到百分之一到百分之二左右。

在我的另外一篇博文《案例详解-如何在 Linux 系统中安装和使用 7zip 以及 7zip的脚本编程使用教程》https://blog.csdn.net/qq_28550263/article/details/124876070 详细介绍了7zip的命令行使用方式,并提供了一个基于7zip官方给出的可执行文件而制作的.deb安装包。你也可以在7zip官网https://www.7-zip.org/找到并下载其他平台的版本。

我们通过 powershell 查询管理指定目录中的server.log.x文件,并通过powershell调用 7zip 软件提供的命令进行极限压缩,按照归档日期时间,自动地将写满的日志文件归档到一个指定的历史日志目录下。

2. Readme 文档 - VCS服务器 Jboss 日志压缩脚本

2.1 功能概述

该脚本用于压缩并清理 正在写入的 VCS JBOSS server.log 日志。

2.2 项目结构

└─zip_log_script            # 项目根目录
    ├─history_logs          # 历史日志压缩归档目录
    │  └─2022-06-08           # 某天被归档的目录,将由程序自动生成,当天归档压缩包放在其中
    |  └─ ...                 # ...
    |  └─ ...                 
    └─programs              # 脚本目录
        ├─log               # 空目录,存在只是为了程序运行
        └─utils             # 工具集目录,存放主程序运行需要的东西
        └─zip_logs.ps1      # 主程序

2.3 清理逻辑

->1

JBOSS 当前默认写入的文件为 server.log,当此文件写入到配置大小后,将会被赋予后缀 .1.2.3… 即 server.log.1server.log.2server.log.3…。

脚本读取 路径变量 $JBoss_LOG_DIR 中指定的路径(默认为"D:\orca\jboss\server\ORCA\log")下的所有文件,不包含该路径下的子路径。这个路径下存放了 1 处所述的 server.log.x。由于该文件夹下同时存放了其它文件,因此取出文件名包含 server 但非 server.log 的日志,有多少个取多少个。

无需要压缩的归档文件

如果在 路径变量 $JBoss_LOG_DIR 指定的目录中没有需要压缩的文件,比如刚刚完成前一次归档,JBOSS 还没有生成新的日志,那么即使你运行日志也不会执行任何归档操作,并且你将看到形如以下提示:

2022-06-08 03:22:04 [DEBUG] There are currently no logs need to archive.

2.4 程序运行环境依赖

脚本的运行需要安装有 powershell 以及 7zip 软件,同时两个软件的主目录在系统的 Path 环境变量中。Windows 系统中已经默认安装好了 powershell 并添加到环境变量,只需要更改powershell脚本执行策略,即已管理员身份打开 powershell 窗口输入并执行以下代码:

Set-ExecutionPolicy Unrestricted

关于 7zip 软件,由于安装完成后不会自动添加环境变量,如果系统上已经安装了该软件,则只需要手动在 Windows 高级系统设置中添加到 Path 边境变量中即可。

2.5 运行方式

可以手动运行,假设你位于该项目项目根目录下:

powershell ./programs/zip_logs.ps1

或者直接双击根目录下的Run.cmd

也可以添加到 Windows 任务计划,指定每天运行多次。

2.6 压缩级别

采用7z极限压缩,对于纯文本压缩后的大小可为压缩前的百分之一左右,因此可以大大节省日志在磁盘中的存储空间。

3. 项目源代码

主程序:zip_log_script

#*****************************************************************************
# Copyright Jack Lee. All rights reserved.
# Licensed under the MIT License.
# Email: 291148484@163.com
# https://blog.csdn.net/qq_28550263?spm=1001.2101.3001.5343
#*****************************************************************************
using module .\utils\jcpath.psm1
using module .\utils\jclogger.psm1
$JBoss_LOG_DIR = "D:\orca\jboss\server\ORCA\log"
$BASE_DIR = (Get-Location).Path
$OUTPUT_DIR = [Path]::Join($BASE_DIR,'history_logs')
$PROGRAM_DIR = [Path]::Join($BASE_DIR,'programs')
$SavePath = [Path]::Join(
    $PROGRAM_DIR,
    'log'
)
$logger = [Logger]::new($SavePath);
$ArchiveName = (Get-Date -Format 'yyyy-MM-dd-HH-mm-ss')+".7z"
$Date_dir_name =  [Path]::Join($OUTPUT_DIR, (Get-Date -Format 'yyyy-MM-dd'))
$order = '7z a -mx9 -sdel '+ [Path]::Join($Date_dir_name, $ArchiveName)+' '
$order_sub = ""
foreach ($file in [Path]::get_items($JBoss_LOG_DIR) ) {
    $basename = [Path]::basename($file)
    if($basename.Contains('server') -and ($basename -ne 'server.log')){
        $logger.Info('The current log file found is: '+$basename)
        $order_sub = $order_sub + [Path]::Join($JBoss_LOG_DIR, $file) + ' '
    }
}
if($order_sub -ne ""){
    $logger.Info('Making compressed package and deleting the original log.')
    powershell -Command ($order + $order_sub)
    $logger.Info('All down')
}else{
    $logger.Debug("There are currently no logs need to archive.")
}

模块 jcpath.psm1

请参考我的博客:

【运维】PowerShell编程 目录文件相关方法的封装与案例详解https://blog.csdn.net/qq_28550263/article/details/124378032

在全文末尾的附录部分给出了这部分代码。

模块 jclogger.psm1

[运维技术]PowerShell中实现一个最基本的日志器loggerhttps://blog.csdn.net/qq_28550263/article/details/124024540

文中章节 2. 代码实现 部分给出了这部分代码。

其中,32行$logmessages >> $this.SavePath,若该归档脚本本身不希望输出任何日志,则可以注释掉。


附: 参考博文链接汇总

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
1月前
|
存储 运维 监控
API明细日志及运维统计日志全面提升API可运维性
在数字化转型的大潮中,数据已成为企业最宝贵的资产之一。而数据服务API可快速为数据应用提供数据接口。面对越来越多的API以及越来越多的应用调用,如何快速查看API的服务情况、异常情况及影响范围,以及查看API的调用详情,进行API的性能优化、错误排查变得越来越重要,本文将介绍如何配置和开通API运维统计及明细日志,以及如何查看日志进行介绍。
|
1月前
|
XML 前端开发 JavaScript
PHP与Ajax在Web开发中的交互技术。PHP作为服务器端脚本语言,处理数据和业务逻辑
本文深入探讨了PHP与Ajax在Web开发中的交互技术。PHP作为服务器端脚本语言,处理数据和业务逻辑;Ajax则通过异步请求实现页面无刷新更新。文中详细介绍了两者的工作原理、数据传输格式选择、具体实现方法及实际应用案例,如实时数据更新、表单验证与提交、动态加载内容等。同时,针对跨域问题、数据安全与性能优化提出了建议。总结指出,PHP与Ajax的结合能显著提升Web应用的效率和用户体验。
47 3
|
1月前
【Azure App Service】PowerShell脚本批量添加IP地址到Web App允许访问IP列表中
Web App取消公网访问后,只允许特定IP能访问Web App。需要写一下段PowerShell脚本,批量添加IP到Web App的允许访问IP列表里!
|
2月前
|
Java PHP
PHP作为广受青睐的服务器端脚本语言,在Web开发中占据重要地位。理解其垃圾回收机制有助于开发高效稳定的PHP应用。
【10月更文挑战第1天】PHP作为广受青睐的服务器端脚本语言,在Web开发中占据重要地位。其垃圾回收机制包括引用计数与循环垃圾回收,对提升应用性能和稳定性至关重要。本文通过具体案例分析,详细探讨PHP垃圾回收机制的工作原理,特别是如何解决循环引用问题。在PHP 8中,垃圾回收机制得到进一步优化,提高了效率和准确性。理解这些机制有助于开发高效稳定的PHP应用。
53 3
|
2月前
|
运维 监控 数据可视化
出海运维日志通到底重要不重要?
出海运维日志通到底重要不重要?
|
4月前
|
JavaScript 搜索推荐 前端开发
从零搭建到部署:Angular与Angular Universal手把手教你实现服务器端渲染(SSR),全面解析及实战指南助你提升Web应用性能与SEO优化效果
【8月更文挑战第31天】服务器端渲染(SSR)是现代Web开发的关键技术,能显著提升SEO效果及首屏加载速度,改善用户体验。Angular Universal作为官方SSR解决方案,允许在服务器端生成静态HTML文件。本文通过具体示例详细介绍如何使用Angular Universal实现SSR,并分享最佳实践。首先需安装Node.js和npm。
110 1
|
4月前
|
运维 监控 数据可视化
自动化运维:使用Python脚本进行日志分析
【8月更文挑战第31天】当系统出现问题时,我们通常会查看日志寻找线索。然而,手动阅读大量日志既费时又易出错。本文将介绍如何使用Python脚本自动分析日志,快速定位问题,提高运维效率。我们将从简单的日志读取开始,逐步深入到复杂的正则表达式匹配和错误统计,最后实现一个自动化的日志监控系统。无论你是新手还是老手,这篇文章都将为你提供有价值的参考。让我们一起探索如何用代码解放双手,让运维工作变得更加轻松吧!
|
4月前
|
API C# 开发框架
WPF与Web服务集成大揭秘:手把手教你调用RESTful API,客户端与服务器端优劣对比全解析!
【8月更文挑战第31天】在现代软件开发中,WPF 和 Web 服务各具特色。WPF 以其出色的界面展示能力受到欢迎,而 Web 服务则凭借跨平台和易维护性在互联网应用中占有一席之地。本文探讨了 WPF 如何通过 HttpClient 类调用 RESTful API,并展示了基于 ASP.NET Core 的 Web 服务如何实现同样的功能。通过对比分析,揭示了两者各自的优缺点:WPF 客户端直接处理数据,减轻服务器负担,但需处理网络异常;Web 服务则能利用服务器端功能如缓存和权限验证,但可能增加服务器负载。希望本文能帮助开发者根据具体需求选择合适的技术方案。
212 0
|
4月前
|
Rust 安全 开发者
惊爆!Xamarin 携手机器学习,开启智能应用新纪元,个性化体验与跨平台优势完美融合大揭秘!
【8月更文挑战第31天】随着互联网的发展,Web应用对性能和安全性要求不断提高。Rust凭借卓越的性能、内存安全及丰富生态,成为构建高性能Web服务器的理想选择。本文通过一个简单示例,展示如何使用Rust和Actix-web框架搭建基本Web服务器,从创建项目到运行服务器全程指导,帮助读者领略Rust在Web后端开发中的强大能力。通过实践,读者可以体验到Rust在性能和安全性方面的优势,以及其在Web开发领域的巨大潜力。
46 0
|
4月前
|
Java 数据库 API
JSF与JPA的史诗级联盟:如何编织数据持久化的华丽织锦,重塑Web应用的荣耀
【8月更文挑战第31天】JavaServer Faces (JSF) 和 Java Persistence API (JPA) 分别是构建Java Web应用的用户界面组件框架和持久化标准。结合使用JSF与JPA,能够打造强大的数据驱动Web应用。首先,通过定义实体类(如`User`)和配置`persistence.xml`来设置JPA环境。然后,在JSF中利用Managed Bean(如`UserBean`)管理业务逻辑,通过`EntityManager`执行数据持久化操作。
63 0