shell脚本并发控制详解

简介: shell并发控制1.文件描述符File Descriptors (FD,文件描述符或文件句柄):进程使用文件描述符来管理打开的文件查看当前进程的fd确定以下三点如何exec打开一个文件​ exec 3<> file1.txt如何exec关闭一个文件(释放文件句柄)如果没有释放句柄,文件删除后描述符依然还在​ exec 3<&-当一个文件FD未被释放,删除源文件也不会影响FD​ rm -rf file1​ cp /proc/$$/3 file1

shell并发控制

1.文件描述符

File Descriptors (FD,文件描述符或文件句柄):进程使用文件描述符来管理打开的文件


查看当前进程的fd


确定以下三点


如何exec打开一个文件


exec 3<> file1.txt


如何exec关闭一个文件(释放文件句柄)


如果没有释放句柄,文件删除后描述符依然还在


exec 3<&-


当一个文件FD未被释放,删除源文件也不会影响FD


rm -rf file1


cp /proc/$$/3 file1

[root@localhost my_scripts]# ll /proc/$$/fd
总用量 0
lrwx------ 1 root root 64 2月  11 11:35 0 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 11:35 1 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 11:35 2 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 14:07 255 -> /dev/pts/2
创建一个文件
touch /root/file1.txt
exec 3<> /root/file1.txt    在当前进程打开这个文件,3代表文件描述符  
将文件中输入内容
echo "123" >/proc/$$/fd/3
cat /root/file1.txt   这是123就会出现在file1中,因为描述符3打开了这个文件
删除/root/file1
rm -rf /root/file
这时ll /proc/$$/fd就会输出如下结果
[root@localhost my_scripts]# ll /proc/$$/fd
总用量 0
lrwx------ 1 root root 64 2月  11 11:35 0 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 11:35 1 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 11:35 2 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 14:07 255 -> /dev/pts/2
lrwx------ 1 root root 64 2月  11 11:35 3 -> /root/file1.txt (deleted)
表示这个文件已经被删除了
根据描述符恢复删除的文件
cp /proc/$$/fd/3 /root/file1    文件恢复
但是ll /proc/$$/fd/还是会提示3已经删除,这是由于每个文件都一个特定的iload编号
关闭当前进程的文件描述符
exec 3<&-

2.再谈管道

管道分为匿名管道和命名管道


我们平时用的|叫匿名管道,其实匿名管道也是一个文件,只不过他是在我们心目中的,而命名管道是名副其实的文件,由mkfifo命令创建一个命名管道文件,命名管道文件可以跨终端输入,只显示一次。


管道文件不会被覆盖,只有当有人读到这个文件才会消失

终端1
[root@localhost my_scripts]# mkfifo /tmp/fifo1
终端2
[root@localhost ~]# grep 'sda' /tmp/fifo1 等待输入
终端1
[root@localhost my_scripts]# ll /dev/ > /tmp/fifo1
终端2
brw-rw----  1 root disk      8,   0 2月  10 21:36 sda
brw-rw----  1 root disk      8,   1 2月  10 21:36 sda1
brw-rw----  1 root disk      8,   2 2月  10 21:36 sda2    获得内容
再次查看则内容小时,若想再看则重新定向到文件

3.并发控制实例

脚本实现多线程并发控制的原理:


首先定义并发的数量,然后创建管道文件,并往管道文件中插入数据(可以是空行),然后定义分隔符,以分隔符xx运行管道文件,在删除管道文件,因为删除管道文件不会影响句柄,在使用read -u命令读取分隔符内容,如果能读到数据则执行对应的后台进程,如果读取不到则一直等待,并发进程并不是等所有都执行完一轮后在执行新的一轮,而是完成一个后就会返回,比如控制 的并发数是50,那么始终都会是50个后台进程一起执行,直到程序结束


3.1.ping主机实现并发控制

#!/bin/bash
#----------------------控制进程并发数量---------------------
#-------------shell多进程/多线程------------------
#定义控制并发的数量
bfsl=10
#定义管道文件
fifofile=/tmp/$$.fifo
#创建管道文件
mkfifo $fifofile
#以文件描述符3打开管道文件
exec 3<> $fifofile
#删除管道文件,因为文件描述符打开的文件即使删除句柄也不会被释放
rm -rf $fifofile
#循环往管道文件中写入内容
for i in $(seq $bfsl)
do
        echo >&3        #这个表示只写入回车
done
for i in {1..254}
do
        read -u 3       #-u表示对文件描述符进行读取,如果能读取则执行下面的命令,如果不能则等待
        {
        ip=192.168.81.$i
        ping -c1 -W1 $ip &>/dev/null
        if [ $? -eq 0 ];then
                echo "$ip is up"
        else
                echo "$ip is down"
        fi
        echo >&3        #由于之前是从管道文件中读走了一行,这里要在还回去一行,让后面的进程进行使用
        }&
done
wait
exec 3>&-               #释放文件描述符
echo "finish.............."

3.2.创建用户实现并发控制

#!/bin/bash
#------------创建用户实现并发控制------------
#------------shell多线程/多进程-------------------
#并发数量,一次性能同时存在多少个进程
bfcs=50
#管道文件
fifofile=/tmp/user_$$.fifo
#创建管道文件
mkfifo $fifofile
#打开管道文件并定义为分隔符4
exec 4<> $fifofile
#删除管道文件
rm -rf $fifofile
#向管道文件插入空行
for i in $(seq $bfcs)
do
        echo >&4
done
for i in $(seq -w 1000)
do
        read -u 4       #读取分隔符4,如果读到行则执行下面命令,否则一直等待
        {
        user=qwe$i
        useradd $user
        echo "123" |passwd --stdin $user &>/dev/null
        if [ $? -eq 0 ];then
                echo "$user is created..."
        fi
        echo >&4        #当运行完命令后则重新向管道文件插入新的行,以便后续进程进行使用
        }&
done
wait
exec 4>&-               #当所有循环完成后释放分隔符
echo "finish........."
目录
相关文章
|
7月前
|
存储 安全 Unix
七、Linux Shell 与脚本基础
别再一遍遍地敲重复的命令了,把它们写进Shell脚本,就能一键搞定。脚本本质上就是个存着一堆命令的文本文件,但要让它“活”起来,有几个关键点:文件开头最好用#!/usr/bin/env bash来指定解释器,并用chmod +x给它执行权限。执行时也有讲究:./script.sh是在一个新“房间”(子Shell)里跑,不影响你;而source script.sh是在当前“房间”里跑,适合用来加载环境变量和配置文件。
600 9
|
7月前
|
存储 Shell Linux
八、Linux Shell 脚本:变量与字符串
Shell脚本里的变量就像一个个贴着标签的“箱子”。装东西(赋值)时,=两边千万不能有空格。用单引号''装进去的东西会原封不动,用双引号""则会让里面的$变量先“变身”再装箱。默认箱子只能在当前“房间”(Shell进程)用,想让隔壁房间(子进程)也能看到,就得给箱子盖个export的“出口”戳。此外,Shell还自带了$?(上条命令的成绩单)和$1(别人递进来的第一个包裹)等许多特殊箱子,非常有用。
613 2
|
关系型数据库 MySQL Shell
MySQL 备份 Shell 脚本:支持远程同步与阿里云 OSS 备份
一款自动化 MySQL 备份 Shell 脚本,支持本地存储、远程服务器同步(SSH+rsync)、阿里云 OSS 备份,并自动清理过期备份。适用于数据库管理员和开发者,帮助确保数据安全。
|
10月前
|
Shell
Shell脚本循环控制:shift、continue、break、exit指令
使用这些命令可以让你的Shell脚本像有生命一样动起来。正确使用它们,你的脚本就能像一场精心编排的舞蹈剧目,既有旋律的起伏,也有节奏的跳跃,最终以一场惊艳的表演结束。每一个动作、每一个转折点,都准确、优雅地完成所需要表达的逻辑。如此,你的脚本不只是冰冷的代码,它透过终端的界面,跳着有节奏的舞蹈,走进观众——使用者的心中。
346 60
|
7月前
|
数据采集 监控 Shell
无需Python:Shell脚本如何成为你的自动化爬虫引擎?
Shell脚本利用curl/wget发起请求,结合文本处理工具构建轻量级爬虫,支持并行加速、定时任务、增量抓取及分布式部署。通过随机UA、异常重试等优化提升稳定性,适用于日志监控、价格追踪等场景。相比Python,具备启动快、资源占用低的优势,适合嵌入式或老旧服务器环境,复杂任务可结合Python实现混合编程。
|
9月前
|
Web App开发 缓存 安全
Linux一键清理系统垃圾:释放30GB空间的Shell脚本实战​
这篇博客介绍了一个实用的Linux系统盘清理脚本,主要功能包括: 安全权限检查和旧内核清理,保留当前使用内核 7天以上日志文件清理和系统日志压缩 浏览器缓存(Chrome/Firefox)、APT缓存、临时文件清理 智能清理Snap旧版本和Docker无用数据 提供磁盘空间使用前后对比和大文件查找功能 脚本采用交互式设计确保安全性,适合定期维护开发环境、服务器和个人电脑。文章详细解析了脚本的关键功能代码,并给出了使用建议。完整脚本已开源,用户可根据需求自定义调整清理策略。
1037 0
|
Shell
一个用于添加/删除定时任务的shell脚本
一个用于添加/删除定时任务的shell脚本
398 1
|
11月前
|
存储 Unix Shell
确定Shell脚本在操作系统中的具体位置方法。
这对于掌握Linux的文件系统组织结构和路径方面的理解很有帮助,是我们日常工作和学习中都可能使用到的知识。以上讲解详细清晰,应用简便,是每一个想要精通操作系统的计算机爱好者必备的实用技能。
410 17
|
12月前
|
Linux Shell
在Linux、CentOS7中设置shell脚本开机自启动服务
以上就是在CentOS 7中设置shell脚本开机自启动服务的全部步骤。希望这个指南能帮助你更好地管理你的Linux系统。
1477 25
|
11月前
|
Linux Shell
Centos或Linux编写一键式Shell脚本删除用户、组指导手册
Centos或Linux编写一键式Shell脚本删除用户、组指导手册
318 4