Python中如何使用os模块和shutil模块处理文件和文件夹

简介: os和shutil都是Python标准库中用于处理文件和文件夹的模块,它们都提供了许多常用的文件和文件夹操作功能,但是它们的使用场景和优势有所不同。os模块和shutil模块各自具有不同的优势,可以根据实际需要选择使用。如果只需要对单个文件或目录进行基本的文件操作,可以使用os模块;如果需要复制或移动多个文件或目录,或者需要进行文件和目录的压缩和解压缩,就应该使用shutil模块。有些需求同时使用两者才能满足要求

bd5c8.jpeg

os和shutil都是Python标准库中用于处理文件和文件夹的模块,它们都提供了许多常用的文件和文件夹操作功能,但是它们的使用场景和优势有所不同。

os模块提供了许多操作系统相关的功能,例如打开文件、读取文件、获取文件属性、创建目录、删除文件、重命名文件等。os模块提供的函数通常操作单个文件或目录,但它不提供直接复制文件或目录的方法。如果需要在Python中复制文件或目录,就需要使用shutil模块。

shutil模块是在os模块的基础上开发的,提供了许多高级的文件和文件夹操作功能,例如复制文件、复制目录、移动文件、移动目录等。shutil模块比os模块更加高级、更加方便,可以用来处理一系列文件和文件夹操作,而不仅仅是单个文件或目录。同时,shutil模块也可以处理文件和目录的压缩和解压缩。

因此,os模块和shutil模块各自具有不同的优势,可以根据实际需要选择使用。如果只需要对单个文件或目录进行基本的文件操作,可以使用os模块;如果需要复制或移动多个文件或目录,或者需要进行文件和目录的压缩和解压缩,就应该使用shutil模块。有些需求同时使用两者才能满足要求,例如做一个文件同步的程序,需要满足如下要求:

  • 第一次运行时,所有文件都会从源路径复制到目标路径。
  • 只有当源文件比目标文件更新时,才复制选定的文件和选定的文件夹(以及所有子文件夹和文件)。
  • 后续运行时,只复制更新的文件和任何新添加到复制列表的文件。
  • 文件夹的结构需要保持不变,所以如果只复制某个文件夹,那么完整的结构也会被创建,但只包含该文件夹中的数据。

根据以上要求,可以提供程序如下:

importosimportshutil#定义源路径和目标路径src_base_path="/mnt/datalake"dst_base_path="/dst"#定义要复制的文件和文件夹列表copy_list= [
"Folder1/file2.csv",
"Folder1/file3.csv",
"Folder1/file4.csv",
"Folder4/Folder5/Folder7"]
#遍历要复制的列表foritemincopy_list:
#拼接完整的源路径和目标路径src_path=os.path.join(src_base_path, item)
dst_path=os.path.join(dst_base_path, item)
#如果是文件ifos.path.isfile(src_path):
#检查目标路径是否存在,如果不存在则创建dst_dir=os.path.dirname(dst_path)
ifnotos.path.exists(dst_dir):
os.makedirs(dst_dir)
#检查源文件是否比目标文件更新,或者目标文件不存在ifnotos.path.exists(dst_path) oros.path.getmtime(src_path) >os.path.getmtime(dst_path):
#复制文件,并保留元数据shutil.copy2(src_path, dst_path)
print(f"Copied file {src_path} to {dst_path}")
#如果是文件夹elifos.path.isdir(src_path):
#遍历源文件夹中的所有子文件夹和文件forroot, dirs, filesinos.walk(src_path):
#对于每个子文件夹和文件,拼接相对路径rel_path=os.path.relpath(root, src_path)
fordindirs:
sub_dir=os.path.join(rel_path, d)
#拼接完整的源路径和目标路径src_sub_dir=os.path.join(src_path, sub_dir)
dst_sub_dir=os.path.join(dst_path, sub_dir)
#检查目标路径是否存在,如果不存在则创建ifnotos.path.exists(dst_sub_dir):
os.makedirs(dst_sub_dir)
print(f"Created directory {dst_sub_dir}")
forfinfiles:
sub_file=os.path.join(rel_path, f)
#拼接完整的源路径和目标路径src_sub_file=os.path.join(src_path, sub_file)
dst_sub_file=os.path.join(dst_path, sub_file)
#检查源文件是否比目标文件更新,或者目标文件不存在ifnotos.path.exists(dst_sub_file) oros.path.getmtime(src_sub_file) >os.path.getmtime(dst_sub_file):
#复制文件,并保留元数据shutil.copy2(src_sub_file, dst_sub_file)
print(f"Copied file {src_sub_file} to {dst_sub_file}")

当发现文件目录或文件有创建或更新的时候进行远程传输,就可以实现一个云同步的文档管理程序。文件传输程序如下:

importrequests#亿牛云动态转发#爬虫加强版代理IP地址和端口号proxy_host='www.16yun.cn'proxy_port='31000'#爬虫加强版代理IP的用户名和密码,采用HTTP基本认证方式proxy_username='16IP'proxy_password='16YUN'#目标文件路径file_path='/path/to/your/file'#目标URL地址url='http://your-target-url.com'#构造HTTP代理的认证信息proxy_auth=requests.auth.HTTPProxyAuth(proxy_username, proxy_password)
#构造HTTP请求头,指定Content-Type为multipart/form-data,表示发送的数据为文件headers= {'Content-Type': 'multipart/form-data'}
#构造HTTP代理地址,格式为http://<username>:<password>@<host>:<port>/proxy_url=f'http://{proxy_username}:{proxy_password}@{proxy_host}:{proxy_port}/'#构造requests.Session对象,并设置爬虫加强版代理IP地址和端口号session=requests.Session()
session.proxies= {'http': proxy_url, 'https': proxy_url}
#打开文件,并将文件内容作为data参数发送POST请求withopen(file_path, 'rb') asf:
response=session.post(url, data=f, headers=headers, auth=proxy_auth)
#打印响应结果print(response.text)

结合上述两个程序,就可以轻松实现远程文件目录和文档的管理及同步。

相关文章
|
1月前
|
安全 Linux 数据安全/隐私保护
python知识点100篇系列(15)-加密python源代码为pyd文件
【10月更文挑战第5天】为了保护Python源码不被查看,可将其编译成二进制文件(Windows下为.pyd,Linux下为.so)。以Python3.8为例,通过Cython工具,先写好Python代码并加入`# cython: language_level=3`指令,安装easycython库后,使用`easycython *.py`命令编译源文件,最终生成.pyd文件供直接导入使用。
python知识点100篇系列(15)-加密python源代码为pyd文件
|
16天前
|
开发者 Python
Python中__init__.py文件的作用
`__init__.py`文件在Python包管理中扮演着重要角色,通过标识目录为包、初始化包、控制导入行为、支持递归包结构以及定义包的命名空间,`__init__.py`文件为组织和管理Python代码提供了强大支持。理解并正确使用 `__init__.py`文件,可以帮助开发者更好地组织代码,提高代码的可维护性和可读性。
17 2
|
1月前
|
Linux 区块链 Python
Python实用记录(十三):python脚本打包exe文件并运行
这篇文章介绍了如何使用PyInstaller将Python脚本打包成可执行文件(exe),并提供了详细的步骤和注意事项。
54 1
Python实用记录(十三):python脚本打包exe文件并运行
|
1月前
|
Java Python
> python知识点100篇系列(19)-使用python下载文件的几种方式
【10月更文挑战第7天】本文介绍了使用Python下载文件的五种方法,包括使用requests、wget、线程池、urllib3和asyncio模块。每种方法适用于不同的场景,如单文件下载、多文件并发下载等,提供了丰富的选择。
|
1月前
|
数据安全/隐私保护 流计算 开发者
python知识点100篇系列(18)-解析m3u8文件的下载视频
【10月更文挑战第6天】m3u8是苹果公司推出的一种视频播放标准,采用UTF-8编码,主要用于记录视频的网络地址。HLS(Http Live Streaming)是苹果公司提出的一种基于HTTP的流媒体传输协议,通过m3u8索引文件按序访问ts文件,实现音视频播放。本文介绍了如何通过浏览器找到m3u8文件,解析m3u8文件获取ts文件地址,下载ts文件并解密(如有必要),最后使用ffmpeg合并ts文件为mp4文件。
|
1月前
|
JSON 数据格式 Python
Python实用记录(十四):python统计某个单词在TXT/JSON文件中出现的次数
这篇文章介绍了一个Python脚本,用于统计TXT或JSON文件中特定单词的出现次数。它包含两个函数,分别处理文本和JSON文件,并通过命令行参数接收文件路径、目标单词和文件格式。文章还提供了代码逻辑的解释和示例用法。
43 0
Python实用记录(十四):python统计某个单词在TXT/JSON文件中出现的次数
|
1月前
|
Python
Python实用记录(四):os模块-去后缀或者改后缀/指定目录下图片或者子目录图片写入txt/csv
本文介绍了如何使用Python的os模块来操作文件,包括更改文件后缀、分割文件路径和后缀、将指定目录下的所有图片写入txt文档,以及将指定目录下所有子目录中的图片写入csv文档,并为每个子目录分配一个标签。
19 1
|
1月前
|
Python
Python实用记录(十二):文件夹下所有文件重命名以及根据图片路径保存到新路径下保存
这篇文章介绍了如何使用Python脚本对TTK100_VOC数据集中的JPEGImages文件夹下的图片文件进行批量重命名,并将它们保存到指定的新路径。
33 0
|
16天前
|
安全 Linux 数据安全/隐私保护
Vanilla OS:下一代安全 Linux 发行版
【10月更文挑战第30天】
38 0
Vanilla OS:下一代安全 Linux 发行版
|
19天前
|
人工智能 安全 Linux
下一篇
无影云桌面