训练shell常用脚本练习(一)

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,高可用系列 2核4GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 【4月更文挑战第13天】shell代码训练(一)

在当今数字化时代,运维工作的重要性日益凸显。面对复杂多变的IT环境,高效的自动化工具和脚本成为每一位运维人员提升工作效率、保障系统稳定的关键利器。为了助力广大运维同行在日常工作中更加得心应手,我特此精心整理了一份实用的Shell脚本合集,旨在为大家提供一份“运维人的福利”,以期在繁琐的任务处理与系统管理中,助您一臂之力。

这份脚本集合凝聚了我个人在实际运维工作中积累的经验与智慧,涵盖了诸如服务器监控、故障排查、备份恢复、性能调优、自动化部署等诸多核心场景。每一行代码都经过实战打磨,力求简洁高效,易读易用,旨在适应各种复杂的运维环境,满足不同层次运维需求。无论您是初入运维领域的新人,还是经验丰富的资深专家,都能从中找到适合自己的工具,让繁杂的运维工作化繁为简,事半功倍。

在这里,我诚挚地邀请各位运维同仁随意拿取、自由分享这份Shell脚本资源。它们不仅是您日常工作的得力助手,更是交流学习、提升技能的良好素材。让我们共同携手,借助科技的力量,驱动运维工作的智能化、自动化进程,为构建稳定、高效的信息系统保驾护航。

1.Dos 攻击防范(自动屏蔽攻击 IP)

#!/bin/bash

DATE=$(date +%d/%b/%Y:%H:%M)

LOG_FILE=/usr/local/nginx/logs/demo2.access.log

ABNORMAL_IP=(tail−n5000(tail -n5000 LOG_FILE |grep DATE |awk '{a[DATE |awk '{a[DATE |awk '{a[1]++}END{for(i in

a)if(a[i]>10)print i}')

for IP in $ABNORMAL_IP; do

if [ (iptables−vnL|grep−c"(iptables -vnL |grep -c "IP") -eq 0 ]; then

iptables -I INPUT -s $IP -j DROP

echo "(date+′(date +'%F_%T') IP" >> /tmp/drop_ip.log

fi

done

2.Linux 系统发送告警脚本

# yum install mailx

# vi /etc/mail.rc

set from=baojingtongzhi@163.com smtp=smtp.163.com

set smtp-auth-user=baojingtongzhi@163.com smtp-auth-password=123456

set smtp-auth=login

3.MySQL 数据库备份单循环

#!/bin/bash

DATE=$(date +%F_%H-%M-%S)

HOST=localhost

USER=backup

PASS=123.com

BACKUP_DIR=/data/db_backup

DB_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "show databases;" 2>/dev/null

|egrep -v "Database|information_schema|mysql|performance_schema|sys")

for DB in $DB_LIST; do

BACKUP_NAME=BACKUPDIR/BACKUP_DIR/{DB}_${DATE}.sql

if ! mysqldump -hHOST−uHOST -uUSER -pPASS−BPASS -B DB > $BACKUP_NAME 2>/dev/null;

then

echo "$BACKUP_NAME 备份失败!"

fi

done

4.MySQL 数据库备份多循环

#!/bin/bash

DATE=$(date +%F_%H-%M-%S)

HOST=localhost

USER=backup

PASS=123.com

BACKUP_DIR=/data/db_backup

DB_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "show databases;" 2>/dev/null

|egrep -v "Database|information_schema|mysql|performance_schema|sys")

for DB in $DB_LIST; do

BACKUP_DB_DIR=BACKUPDIR/BACKUP_DIR/{DB}_${DATE}

[ ! -d BACKUP_DB_DIR ] && mkdir -pBACKUP_DB_DIR ] && mkdir -pBACKUP_DB_DIR ] && mkdir -p BACKUP_DB_DIR &>/dev/null

TABLE_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "use $DB;show tables;"

2>/dev/null)

for TABLE in $TABLE_LIST; do

BACKUP_NAME=BACKUPDBDIR/BACKUP_DB_DIR/{TABLE}.sql

if ! mysqldump -hHOST−uHOST -uUSER -pPASSPASS DB TABLE>TABLE > BACKUP_NAME

2>/dev/null; then

echo "$BACKUP_NAME 备份失败!"

fi

done

done

5.Nginx 访问访问日志按天切割

#!/bin/bash

LOG_DIR=/usr/local/nginx/logs

YESTERDAY_TIME=$(date -d "yesterday" +%F)

LOG_MONTH_DIR=LOGDIR/LOG_DIR/(date +"%Y-%m")

LOG_FILE_LIST="default.access.log"

for LOG_FILE in $LOG_FILE_LIST; do

[ ! -d LOG_MONTH_DIR ] && mkdir -pLOG_MONTH_DIR ] && mkdir -pLOG_MONTH_DIR ] && mkdir -p LOG_MONTH_DIR

mv LOGDIR/LOG_DIR/LOG_FILE LOGMONTHDIR/LOG_MONTH_DIR/{LOG_FILE}_${YESTERDAY_TIME}

done

kill -USR1 $(cat /var/run/nginx.pid)

6.Nginx 访问日志分析脚本

#!/bin/bash

# 日志格式: remoteaddr−remote_addr - remote_user [timelocal]"time_local] "request" $status

bodybytessent"body_bytes_sent "http_referer" "httpuseragent""http_user_agent" "http_x_forwarded_for"

LOG_FILE=$1

echo "统计访问最多的10个IP"

awk '{a[1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}'1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}'1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}' LOG_FILE |sort

-k2 -nr |head -10

echo "----------------------"

echo "统计时间段访问最多的IP"

awk '4>="[01/Dec/2018:13:20:25" &&4>="[01/Dec/2018:13:20:25" &&4>="[01/Dec/2018:13:20:25" && 4<="[27/Nov/2018:16:20:49"{a[$1]++}END{for(v

in a)print v,a[v]}' $LOG_FILE |sort -k2 -nr|head -10

echo "----------------------"

echo "统计访问最多的10个页面"

awk '{a[$7]++}END{print "PV:",length(a);for(v in a){if(a[v]>10)print v,a[v]}}'

$LOG_FILE |sort -k2 -nr

echo "----------------------"

echo "统计访问页面状态码数量"

awk '{a[7""7" "9]++}END{for(v in a){if(a[v]>5)print v,a[v]}}'

7.查看网卡实时流量脚本

#!/bin/bash

NIC=$1

echo -e " In ------ Out"

while true; do

OLD_IN=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 2}' /proc/net/dev)

OLD_OUT=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 10}' /proc/net/dev)

sleep 1

NEW_IN=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 2}' /proc/net/dev)

NEW_OUT=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 10}' /proc/net/dev)

IN=(printf"(printf "%.1f%s" "(((NEWIN−NEW_IN-OLD_IN)/1024))" "KB/s")

OUT=(printf"(printf "%.1f%s" "(((NEWOUT−NEW_OUT-OLD_OUT)/1024))" "KB/s")

echo "ININ OUT"

sleep 1

done

8.服务器系统配置初始化脚本

#/bin/bash

# 设置时区并同步时间

ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

if ! crontab -l |grep ntpdate &>/dev/null ; then

(echo "* 1 * * * ntpdate time.windows.com >/dev/null 2>&1";crontab -l)

|crontab

fi

# 禁用selinux

sed -i '/SELINUX/{s/permissive/disabled/}' /etc/selinux/config

# 关闭防火墙

if egrep "7.[0-9]" /etc/redhat-release &>/dev/null; then

systemctl stop firewalld

systemctl disable firewalld

elif egrep "6.[0-9]" /etc/redhat-release &>/dev/null; then

service iptables stop

chkconfig iptables off

fi

# 历史命令显示操作时间

if ! grep HISTTIMEFORMAT /etc/bashrc; then

echo 'export HISTTIMEFORMAT="%F %T `whoami` "' >> /etc/bashrc

fi

# SSH超时时间

if ! grep "TMOUT=600" /etc/profile &>/dev/null; then

echo "export TMOUT=600" >> /etc/profile

fi

# 禁止root远程登录

sed -i 's/#PermitRootLogin yes/PermitRootLogin no/' /etc/ssh/sshd_config

# 禁止定时任务向发送邮件

sed -i 's/^MAILTO=root/MAILTO=""/' /etc/crontab

# 设置最大打开文件数

if ! grep "* soft nofile 65535" /etc/security/limits.conf &>/dev/null; then

cat >> /etc/security/limits.conf << EOF

* soft nofile 65535

* hard nofile 65535

EOF

fi

# 系统内核优化

cat >> /etc/sysctl.conf << EOF

net.ipv4.tcp_syncookies = 1

net.ipv4.tcp_max_tw_buckets = 20480

net.ipv4.tcp_max_syn_backlog = 20480

net.core.netdev_max_backlog = 262144

net.ipv4.tcp_fin_timeout = 20

EOF

# 减少SWAP使用

echo "0" > /proc/sys/vm/swappiness

# 安装系统性能分析工具及其他

yum install gcc make autoconf vim sysstat net-tools iostat if

9.监控 100 台服务器磁盘利用率脚本

#!/bin/bash

HOST_INFO=host.info

for IP in (awk '/^[^#]/{print $1}'(awk '/^[^#]/{print $1}'(awk '/^[^#]/{print $1}' HOST_INFO); do

USER=(awk−vip=(awk -v ip=IP 'ip==1print$2′1{print $2}' HOST_INFO)

PORT=(awk−vip=(awk -v ip=IP 'ip==1print$3′1{print $3}' HOST_INFO)

TMP_FILE=/tmp/disk.tmp

ssh -p PORTPORT USER@IP′df−h′>IP 'df -h' > TMP_FILE

USE_RATE_LIST=(awk′BEGINOFS="="/\/dev/printNF,int(NF,int(5)′(awk 'BEGIN{OFS="="}/^\/dev/{print NF,int(NF,int(5)}' TMP_FILE)

for USE_RATE in $USE_RATE_LIST; do

PART_NAME=${USE_RATE%=*}

USE_RATE=${USE_RATE#*=}

if [ $USE_RATE -ge 80 ]; then

echo "Warning: PARTNAMEPartitionusagePART_NAME Partition usage USE_RATE%!"

fi

done

done

10.并发从数台机器中获取 hostname,并记录返回信息花费的时长,重定向到一个文件 hostname.txt 中,在全部完成后输出花费时长最短的那台机器的 CPU 信息。

#!bin/bash

# 所以主机,以空格分隔

ALL_HOSTS=(IP 地址 IP 地址)

for host in ${ALL_HOSTS[*]}

do

{

start_time=$(date +'%s')

ssh $host "hostname" &>/dev/null

sleep 2

stop_time=$(date +'%s')

time_consuming=$((stop_time-start_time))

echo "host:host: time_consuming" >>hostname.txt

}&

done

wait

host=(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print 1}')

ssh $host "top -b -n 1"

如果想上手操作练代码的同学们可以通过阿里云ecs服务器免费试用参与!

入口:新老同学免费试用


相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。 &nbsp; 相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/mysql&nbsp;
目录
相关文章
|
8天前
|
存储 安全 Unix
七、Linux Shell 与脚本基础
别再一遍遍地敲重复的命令了,把它们写进Shell脚本,就能一键搞定。脚本本质上就是个存着一堆命令的文本文件,但要让它“活”起来,有几个关键点:文件开头最好用#!/usr/bin/env bash来指定解释器,并用chmod +x给它执行权限。执行时也有讲究:./script.sh是在一个新“房间”(子Shell)里跑,不影响你;而source script.sh是在当前“房间”里跑,适合用来加载环境变量和配置文件。
149 10
|
7天前
|
存储 Shell Linux
八、Linux Shell 脚本:变量与字符串
Shell脚本里的变量就像一个个贴着标签的“箱子”。装东西(赋值)时,=两边千万不能有空格。用单引号''装进去的东西会原封不动,用双引号""则会让里面的$变量先“变身”再装箱。默认箱子只能在当前“房间”(Shell进程)用,想让隔壁房间(子进程)也能看到,就得给箱子盖个export的“出口”戳。此外,Shell还自带了$?(上条命令的成绩单)和$1(别人递进来的第一个包裹)等许多特殊箱子,非常有用。
62 2
|
27天前
|
数据采集 监控 Shell
无需Python:Shell脚本如何成为你的自动化爬虫引擎?
Shell脚本利用curl/wget发起请求,结合文本处理工具构建轻量级爬虫,支持并行加速、定时任务、增量抓取及分布式部署。通过随机UA、异常重试等优化提升稳定性,适用于日志监控、价格追踪等场景。相比Python,具备启动快、资源占用低的优势,适合嵌入式或老旧服务器环境,复杂任务可结合Python实现混合编程。
|
4月前
|
Shell
Shell脚本循环控制:shift、continue、break、exit指令
使用这些命令可以让你的Shell脚本像有生命一样动起来。正确使用它们,你的脚本就能像一场精心编排的舞蹈剧目,既有旋律的起伏,也有节奏的跳跃,最终以一场惊艳的表演结束。每一个动作、每一个转折点,都准确、优雅地完成所需要表达的逻辑。如此,你的脚本不只是冰冷的代码,它透过终端的界面,跳着有节奏的舞蹈,走进观众——使用者的心中。
203 60
|
7月前
|
关系型数据库 MySQL Shell
MySQL 备份 Shell 脚本:支持远程同步与阿里云 OSS 备份
一款自动化 MySQL 备份 Shell 脚本,支持本地存储、远程服务器同步(SSH+rsync)、阿里云 OSS 备份,并自动清理过期备份。适用于数据库管理员和开发者,帮助确保数据安全。
|
3月前
|
Web App开发 缓存 安全
Linux一键清理系统垃圾:释放30GB空间的Shell脚本实战​
这篇博客介绍了一个实用的Linux系统盘清理脚本,主要功能包括: 安全权限检查和旧内核清理,保留当前使用内核 7天以上日志文件清理和系统日志压缩 浏览器缓存(Chrome/Firefox)、APT缓存、临时文件清理 智能清理Snap旧版本和Docker无用数据 提供磁盘空间使用前后对比和大文件查找功能 脚本采用交互式设计确保安全性,适合定期维护开发环境、服务器和个人电脑。文章详细解析了脚本的关键功能代码,并给出了使用建议。完整脚本已开源,用户可根据需求自定义调整清理策略。
213 1
|
5月前
|
存储 Unix Shell
确定Shell脚本在操作系统中的具体位置方法。
这对于掌握Linux的文件系统组织结构和路径方面的理解很有帮助,是我们日常工作和学习中都可能使用到的知识。以上讲解详细清晰,应用简便,是每一个想要精通操作系统的计算机爱好者必备的实用技能。
108 17
|
5月前
|
Linux Shell
Centos或Linux编写一键式Shell脚本删除用户、组指导手册
Centos或Linux编写一键式Shell脚本删除用户、组指导手册
128 4
|
5月前
|
Linux Shell 数据安全/隐私保护
Centos或Linux编写一键式Shell脚本创建用户、组、目录分配权限指导手册
Centos或Linux编写一键式Shell脚本创建用户、组、目录分配权限指导手册
271 3
|
6月前
|
Linux Shell
在Linux、CentOS7中设置shell脚本开机自启动服务
以上就是在CentOS 7中设置shell脚本开机自启动服务的全部步骤。希望这个指南能帮助你更好地管理你的Linux系统。
435 25