训练shell常用脚本练习(一)

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 【4月更文挑战第13天】shell代码训练(一)

在当今数字化时代,运维工作的重要性日益凸显。面对复杂多变的IT环境,高效的自动化工具和脚本成为每一位运维人员提升工作效率、保障系统稳定的关键利器。为了助力广大运维同行在日常工作中更加得心应手,我特此精心整理了一份实用的Shell脚本合集,旨在为大家提供一份“运维人的福利”,以期在繁琐的任务处理与系统管理中,助您一臂之力。

这份脚本集合凝聚了我个人在实际运维工作中积累的经验与智慧,涵盖了诸如服务器监控、故障排查、备份恢复、性能调优、自动化部署等诸多核心场景。每一行代码都经过实战打磨,力求简洁高效,易读易用,旨在适应各种复杂的运维环境,满足不同层次运维需求。无论您是初入运维领域的新人,还是经验丰富的资深专家,都能从中找到适合自己的工具,让繁杂的运维工作化繁为简,事半功倍。

在这里,我诚挚地邀请各位运维同仁随意拿取、自由分享这份Shell脚本资源。它们不仅是您日常工作的得力助手,更是交流学习、提升技能的良好素材。让我们共同携手,借助科技的力量,驱动运维工作的智能化、自动化进程,为构建稳定、高效的信息系统保驾护航。

1.Dos 攻击防范(自动屏蔽攻击 IP)

#!/bin/bash

DATE=$(date +%d/%b/%Y:%H:%M)

LOG_FILE=/usr/local/nginx/logs/demo2.access.log

ABNORMAL_IP=(tail−n5000(tail -n5000 LOG_FILE |grep DATE |awk '{a[DATE |awk '{a[DATE |awk '{a[1]++}END{for(i in

a)if(a[i]>10)print i}')

for IP in $ABNORMAL_IP; do

if [ (iptables−vnL|grep−c"(iptables -vnL |grep -c "IP") -eq 0 ]; then

iptables -I INPUT -s $IP -j DROP

echo "(date+′(date +'%F_%T') IP" >> /tmp/drop_ip.log

fi

done

2.Linux 系统发送告警脚本

# yum install mailx

# vi /etc/mail.rc

set from=baojingtongzhi@163.com smtp=smtp.163.com

set smtp-auth-user=baojingtongzhi@163.com smtp-auth-password=123456

set smtp-auth=login

3.MySQL 数据库备份单循环

#!/bin/bash

DATE=$(date +%F_%H-%M-%S)

HOST=localhost

USER=backup

PASS=123.com

BACKUP_DIR=/data/db_backup

DB_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "show databases;" 2>/dev/null

|egrep -v "Database|information_schema|mysql|performance_schema|sys")

for DB in $DB_LIST; do

BACKUP_NAME=BACKUPDIR/BACKUP_DIR/{DB}_${DATE}.sql

if ! mysqldump -hHOST−uHOST -uUSER -pPASS−BPASS -B DB > $BACKUP_NAME 2>/dev/null;

then

echo "$BACKUP_NAME 备份失败!"

fi

done

4.MySQL 数据库备份多循环

#!/bin/bash

DATE=$(date +%F_%H-%M-%S)

HOST=localhost

USER=backup

PASS=123.com

BACKUP_DIR=/data/db_backup

DB_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "show databases;" 2>/dev/null

|egrep -v "Database|information_schema|mysql|performance_schema|sys")

for DB in $DB_LIST; do

BACKUP_DB_DIR=BACKUPDIR/BACKUP_DIR/{DB}_${DATE}

[ ! -d BACKUP_DB_DIR ] && mkdir -pBACKUP_DB_DIR ] && mkdir -pBACKUP_DB_DIR ] && mkdir -p BACKUP_DB_DIR &>/dev/null

TABLE_LIST=(mysql−h(mysql -hHOST -uUSER−pUSER -pPASS -s -e "use $DB;show tables;"

2>/dev/null)

for TABLE in $TABLE_LIST; do

BACKUP_NAME=BACKUPDBDIR/BACKUP_DB_DIR/{TABLE}.sql

if ! mysqldump -hHOST−uHOST -uUSER -pPASSPASS DB TABLE>TABLE > BACKUP_NAME

2>/dev/null; then

echo "$BACKUP_NAME 备份失败!"

fi

done

done

5.Nginx 访问访问日志按天切割

#!/bin/bash

LOG_DIR=/usr/local/nginx/logs

YESTERDAY_TIME=$(date -d "yesterday" +%F)

LOG_MONTH_DIR=LOGDIR/LOG_DIR/(date +"%Y-%m")

LOG_FILE_LIST="default.access.log"

for LOG_FILE in $LOG_FILE_LIST; do

[ ! -d LOG_MONTH_DIR ] && mkdir -pLOG_MONTH_DIR ] && mkdir -pLOG_MONTH_DIR ] && mkdir -p LOG_MONTH_DIR

mv LOGDIR/LOG_DIR/LOG_FILE LOGMONTHDIR/LOG_MONTH_DIR/{LOG_FILE}_${YESTERDAY_TIME}

done

kill -USR1 $(cat /var/run/nginx.pid)

6.Nginx 访问日志分析脚本

#!/bin/bash

# 日志格式: remoteaddr−remote_addr - remote_user [timelocal]"time_local] "request" $status

bodybytessent"body_bytes_sent "http_referer" "httpuseragent""http_user_agent" "http_x_forwarded_for"

LOG_FILE=$1

echo "统计访问最多的10个IP"

awk '{a[1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}'1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}'1]++}END{print "UV:",length(a);for(v in a)print v,a[v]}' LOG_FILE |sort

-k2 -nr |head -10

echo "----------------------"

echo "统计时间段访问最多的IP"

awk '4>="[01/Dec/2018:13:20:25" &&4>="[01/Dec/2018:13:20:25" &&4>="[01/Dec/2018:13:20:25" && 4<="[27/Nov/2018:16:20:49"{a[$1]++}END{for(v

in a)print v,a[v]}' $LOG_FILE |sort -k2 -nr|head -10

echo "----------------------"

echo "统计访问最多的10个页面"

awk '{a[$7]++}END{print "PV:",length(a);for(v in a){if(a[v]>10)print v,a[v]}}'

$LOG_FILE |sort -k2 -nr

echo "----------------------"

echo "统计访问页面状态码数量"

awk '{a[7""7" "9]++}END{for(v in a){if(a[v]>5)print v,a[v]}}'

7.查看网卡实时流量脚本

#!/bin/bash

NIC=$1

echo -e " In ------ Out"

while true; do

OLD_IN=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 2}' /proc/net/dev)

OLD_OUT=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 10}' /proc/net/dev)

sleep 1

NEW_IN=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 2}' /proc/net/dev)

NEW_OUT=(awk′(awk '0~"'NIC'"{printNIC'"{printNIC'"{print 10}' /proc/net/dev)

IN=(printf"(printf "%.1f%s" "(((NEWIN−NEW_IN-OLD_IN)/1024))" "KB/s")

OUT=(printf"(printf "%.1f%s" "(((NEWOUT−NEW_OUT-OLD_OUT)/1024))" "KB/s")

echo "ININ OUT"

sleep 1

done

8.服务器系统配置初始化脚本

#/bin/bash

# 设置时区并同步时间

ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

if ! crontab -l |grep ntpdate &>/dev/null ; then

(echo "* 1 * * * ntpdate time.windows.com >/dev/null 2>&1";crontab -l)

|crontab

fi

# 禁用selinux

sed -i '/SELINUX/{s/permissive/disabled/}' /etc/selinux/config

# 关闭防火墙

if egrep "7.[0-9]" /etc/redhat-release &>/dev/null; then

systemctl stop firewalld

systemctl disable firewalld

elif egrep "6.[0-9]" /etc/redhat-release &>/dev/null; then

service iptables stop

chkconfig iptables off

fi

# 历史命令显示操作时间

if ! grep HISTTIMEFORMAT /etc/bashrc; then

echo 'export HISTTIMEFORMAT="%F %T `whoami` "' >> /etc/bashrc

fi

# SSH超时时间

if ! grep "TMOUT=600" /etc/profile &>/dev/null; then

echo "export TMOUT=600" >> /etc/profile

fi

# 禁止root远程登录

sed -i 's/#PermitRootLogin yes/PermitRootLogin no/' /etc/ssh/sshd_config

# 禁止定时任务向发送邮件

sed -i 's/^MAILTO=root/MAILTO=""/' /etc/crontab

# 设置最大打开文件数

if ! grep "* soft nofile 65535" /etc/security/limits.conf &>/dev/null; then

cat >> /etc/security/limits.conf << EOF

* soft nofile 65535

* hard nofile 65535

EOF

fi

# 系统内核优化

cat >> /etc/sysctl.conf << EOF

net.ipv4.tcp_syncookies = 1

net.ipv4.tcp_max_tw_buckets = 20480

net.ipv4.tcp_max_syn_backlog = 20480

net.core.netdev_max_backlog = 262144

net.ipv4.tcp_fin_timeout = 20

EOF

# 减少SWAP使用

echo "0" > /proc/sys/vm/swappiness

# 安装系统性能分析工具及其他

yum install gcc make autoconf vim sysstat net-tools iostat if

9.监控 100 台服务器磁盘利用率脚本

#!/bin/bash

HOST_INFO=host.info

for IP in (awk '/^[^#]/{print $1}'(awk '/^[^#]/{print $1}'(awk '/^[^#]/{print $1}' HOST_INFO); do

USER=(awk−vip=(awk -v ip=IP 'ip==1print$2′1{print $2}' HOST_INFO)

PORT=(awk−vip=(awk -v ip=IP 'ip==1print$3′1{print $3}' HOST_INFO)

TMP_FILE=/tmp/disk.tmp

ssh -p PORTPORT USER@IP′df−h′>IP 'df -h' > TMP_FILE

USE_RATE_LIST=(awk′BEGINOFS="="/\/dev/printNF,int(NF,int(5)′(awk 'BEGIN{OFS="="}/^\/dev/{print NF,int(NF,int(5)}' TMP_FILE)

for USE_RATE in $USE_RATE_LIST; do

PART_NAME=${USE_RATE%=*}

USE_RATE=${USE_RATE#*=}

if [ $USE_RATE -ge 80 ]; then

echo "Warning: PARTNAMEPartitionusagePART_NAME Partition usage USE_RATE%!"

fi

done

done

10.并发从数台机器中获取 hostname,并记录返回信息花费的时长,重定向到一个文件 hostname.txt 中,在全部完成后输出花费时长最短的那台机器的 CPU 信息。

#!bin/bash

# 所以主机,以空格分隔

ALL_HOSTS=(IP 地址 IP 地址)

for host in ${ALL_HOSTS[*]}

do

{

start_time=$(date +'%s')

ssh $host "hostname" &>/dev/null

sleep 2

stop_time=$(date +'%s')

time_consuming=$((stop_time-start_time))

echo "host:host: time_consuming" >>hostname.txt

}&

done

wait

host=(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print(sort -n -k 2 hostname.txt | head -1 | awk -F':' '{print 1}')

ssh $host "top -b -n 1"

如果想上手操作练代码的同学们可以通过阿里云ecs服务器免费试用参与!

入口:新老同学免费试用


相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
1月前
|
Shell
一个用于添加/删除定时任务的shell脚本
一个用于添加/删除定时任务的shell脚本
75 1
|
18天前
|
Shell Linux 测试技术
6种方法打造出色的Shell脚本
6种方法打造出色的Shell脚本
42 2
6种方法打造出色的Shell脚本
|
4天前
|
XML JSON 监控
Shell脚本要点和难点以及具体应用和优缺点介绍
Shell脚本在系统管理和自动化任务中扮演着重要角色。尽管存在调试困难、可读性差等问题,但其简洁高效、易于学习和强大的功能使其在许多场景中不可或缺。通过掌握Shell脚本的基本语法、常用命令和函数,并了解其优缺点,开发者可以编写出高效的脚本来完成各种任务,提高工作效率。希望本文能为您在Shell脚本编写和应用中提供有价值的参考和指导。
14 1
|
9天前
|
Ubuntu Shell 开发工具
ubuntu/debian shell 脚本自动配置 gitea git 仓库
这是一个自动配置 Gitea Git 仓库的 Shell 脚本,支持 Ubuntu 20+ 和 Debian 12+ 系统。脚本会创建必要的目录、下载并安装 Gitea,创建 Gitea 用户和服务,确保 Gitea 在系统启动时自动运行。用户可以选择从官方或小绿叶技术博客下载安装包。
23 2
|
22天前
|
监控 网络协议 Shell
ip和ip网段攻击拦截系统-绿叶结界防火墙系统shell脚本
这是一个名为“小绿叶技术博客扫段攻击拦截系统”的Bash脚本,用于监控和拦截TCP攻击。通过抓取网络数据包监控可疑IP,并利用iptables和firewalld防火墙规则对这些IP进行拦截。同时,该系统能够查询数据库中的白名单,确保合法IP不受影响。此外,它还具备日志记录功能,以便于后续分析和审计。
43 6
|
19天前
|
运维 监控 Shell
深入理解Linux系统下的Shell脚本编程
【10月更文挑战第24天】本文将深入浅出地介绍Linux系统中Shell脚本的基础知识和实用技巧,帮助读者从零开始学习编写Shell脚本。通过本文的学习,你将能够掌握Shell脚本的基本语法、变量使用、流程控制以及函数定义等核心概念,并学会如何将这些知识应用于实际问题解决中。文章还将展示几个实用的Shell脚本例子,以加深对知识点的理解和应用。无论你是运维人员还是软件开发者,这篇文章都将为你提供强大的Linux自动化工具。
|
1月前
|
监控 Unix Shell
shell脚本编程学习
【10月更文挑战第1天】shell脚本编程
66 12
|
1月前
|
存储 运维 监控
自动化运维:使用Shell脚本简化日常任务
【9月更文挑战第35天】在IT运维的日常工作中,重复性的任务往往消耗大量的时间。本文将介绍如何通过编写简单的Shell脚本来自动化这些日常任务,从而提升效率。我们将一起探索Shell脚本的基础语法,并通过实际案例展示如何应用这些知识来创建有用的自动化工具。无论你是新手还是有一定经验的运维人员,这篇文章都会为你提供新的视角和技巧,让你的工作更加轻松。
51 2
|
2月前
|
Shell
shell脚本变量 $name ${name}啥区别
shell脚本变量 $name ${name}啥区别
|
1月前
|
存储 Shell Linux
【Linux】shell基础,shell脚本
Shell脚本是Linux系统管理和自动化任务的重要工具,掌握其基础及进阶用法能显著提升工作效率。从简单的命令序列到复杂的逻辑控制和功能封装,Shell脚本展现了强大的灵活性和实用性。不断实践和探索,将使您更加熟练地运用Shell脚本解决各种实际问题
25 0