数据导入与预处理-第4章-数据获取python读取docx文档(上)

简介: 数据导入与预处理-第4章-pandas数据获取docx文档1.python读取docx文档概述1.1 从Word文件获取数据1.2 python-docx库介绍1. Paragraph类2. Table类

1.python读取docx文档概述

1.1 从Word文件获取数据

Word(Microsoft Office Word)是微软公司的一款文字处理软件,在日常工作、学习中常被用于处理或存储文字信息。Word文件有两种扩展名.doc和.docx,其中扩展名.doc为微软专用格式,并未对外完全授权,兼容性低;而扩展名为.docx的文件无论是从文件体积大小、响应速度、兼容性等方面都优于.doc文件。

由于Pandas库中没有提供读取Word文件的功能,这里需要借助第三方库python-docx读取Word文件(扩展名为.docx)中的数据。

python-docx是一个Python中专门用于创建和修改Word(以.docx为后缀名)文件的库,该库中提供了Word文件的全套操作,可以轻松地对Word文件进行读写操作。如果当前的环境中没有安装过python-docx库,那么需要先通过pip命令安装该库。

pip install python-docx

1.2 python-docx库介绍84950

python-docx库中主要有一个Document类,Document类的对象表示一个从Word文件加载、类似文件的对象,相当于一个Word文件。不同的Document类的对象对应不同的Word文件,这些对象是独立的,相互之间没有任何影响。

一个Word文件中的内容可能包含段落、标题、表格、样式等几种结构,同样地,Document类的对象包含对应各结构的属性。


paragraphs和tables属性可用于获取Word文件中段落对象和表格对象的列表,其中段落对象是一个Paragraph类的对象,表格对象是一个Tables类的对象。

1. Paragraph类

Paragraph类对象对应Word文件的段落结构。一个Word文件可能由多个段落组成,一旦该文件中输入了一个换行符,就会产生一个新的段落。


2. Table类

Table类对象对应Word文件的表格结构。虽然一个Word文件可能包含多个表格,但每个表格都是由若干个单元格组成,通过单元格的位置即可获取对象的单元格对象。

2.python-docx案例

2.1 基本操作

使用python-docx库读取Word文件的基本步骤

1.创建一个Document类对象

2.通过Document类对象的paragraphs或tables属性获取文件对象的段落对象或表格对象

3.通过段落对象或表格对象中的属性或方法获取文件内容


有一个Word文档,名称为 集合介绍.docx,下面我们将使用python-docx库读取该文件,并提取相关信息。



1.获取段落

代码:

import pandas as pd
import numpy as np
from docx import Document
# 创建Document类的对象
docx = Document('集合介绍.docx')
# 获取段落对象
paragraphs = docx.paragraphs
for i in paragraphs:
    # 使用text属性获取段落中的字符串
    print(i.text)
    print("*"*15)

输出为:

可以看出:每个换行符都代表一个段落

2. 获取表格

代码:

from docx import Document
# 创建Document对象实例
doc = Document('集合介绍.docx')
# 获取表格对象
tables = doc.tables
for table in tables:
    for row in table.rows:                   # 获取行数据对象
        row_content = []                      # 用于保存表格数据的列表
        for cell in row.cells[:]:           # 获取单元格对象
            row_content.append(cell.text)  # 获取单元格中的字符串
        print(row_content)                   # 以列表形式显示每一行数据
        print("*"*15)

输出为:


2.2 实战案例

在一个高校里,有许多的人才培养方案,现在需要对人才培养方案统计,提取其中的

人才培养方案为大部分为word文档,格式包含doc和docx两种,部分为PDF格式,PDF格式的文件处理,将在单独写博客进行拓展,本文仅对word文件进行处理。

2.2.1 查看原始数据目录结构

在进行操作前,首先对数据进行编码,去除学院,专业信息。进入到人才培养方案目录下,执行如下命令

E:\vscode\reddemo\edudata>tree /f > tree.txt

生成tree.txt文件,该文件中内容如下:

一级目录01-14代表04个学院,每个学院下有二级目录,二级目录包括一本,普本,双学位,合作办学等多种专业设置,每个二级目录下有对应三级文件,文件为对应专业的人才培养方案。

具体内容如下:

E:.
│  tree.txt
├─01
│  ├─一本
│  │      01人才培养方案(2021版)2021年9月13日 - 02.docx
│  │      02人才培养方案-2021版.doc
│  │      
│  └─普本
│          03.doc
│          04.doc
│          05.docx
├─02
│  │  0224+工程造价双学位(更新后20211009).doc
│  │  
│  ├─一本
│  │      01.docx
│  │      02.docx
│  │      
│  ├─双学位
│  │      022.doc
│  │      042.doc
│  │      
│  └─普本
│          03.docx
│          04.docx
│          05.docx
│          06.docx
│          08.docx
├─03
│  ├─一本
│  │      04.docx
│  │      
│  └─普本
│          01.docx
│          02.docx
│          03.docx
│          05.docx
├─04
│  ├─普本
│  │      01.doc
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学士学位
│          012.doc
│          022.docx
├─05
│  ├─一本
│  │      05.doc
│  │      
│  └─普本
│          04.docx
│          06.docx
├─06
│  ├─一本
│  │      01.docx
│  │      
│  └─普本
│          01.docx
│          03.docx
│          04.docx
│          05.docx
├─07
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─08
│  ├─一本
│  │      06.docx
│  │      
│  └─普本
│          01.pdf
│          02.pdf
│          05.docx
├─09
│  │  01.docx
│  │  02.doc
│  │  03.docx
│  │  04.docx
│  │  
│  └─合作办学
│          01.docx
├─10
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─11
│  └─普本
│      │  01.docx
│      │  03.docx
│      │  04.docx
│      │  
│      └─第二学士学位
│              04.docx
├─12
│  ├─普本
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学位
│          03金融数学专业第二学士学位.docx
├─13
│      01.docx
│      02.docx
└─14
    │  01.docx
    ├─专升本
    │      01.docx
    ├─双学位
    │      012.docx
    └─第二学士学位
            01.docx

查看单个文件 E:\vscode\reddemo\edudata\02\一本\02.docx,内容如下:


02专业(本科)人才培养方案

一、专业名称:02

二、修业年限及毕业学分要求:基本学XXX求170学分。

三、授予学位:工学学士

四、培养目标:

本专业培养适应我国社会XX用型人才。

五、毕业要求:

1 工程知识:能够将XXX题。

指标1.1 能够XX问题;

指标1.2 能够XX模型;

指标1.3 能够XX方案;

2 问题分析:能够XX结论。

指标2.1 能够XX环节;

指标2.2 能够XX表达;

指标2.3 能够XX结论。

3 设计/开发解决方案:能够XX等因素。

指标3.1 掌握XX因素;

指标3.2 能够XX审核;

指标3.3 能够XX改进;

指标3.4 能XX因素。

4 研究:能够XX结论。

指标4.1 能够XX方案;

指标4.2 能够XX方案;

指标4.3 能够XX数据;

指标4.4 能够XX结论。

5 使用XX局限性。

指标5.1 了解XX性;

指标5.2 能够XX并运用于复杂工程问题;

指标5.3 能够XX其局限性。

6 工程与社会:能够XX的责任。

指标6.1 能够XX影响;

指标6.2 能够XX影响。

指标6.3 能够XX责任。

7 环境和XX的影响。

指标7.1 能够XX内涵;

指标7.2 能XX评价;

指标7.3 能够XX理念。

8 职业规范:具有XX责任。

指标8.1 能够XX国情;

指标8.2 能够XX责任。

9 个人和团队:能够XX角色。

指标9.1 能够胜任XX的任务;

指标9.2 能够与XX能力。

10 沟通:能够XX交流。

指标10.1 能够XX交流;

指标10.2 了解XX交流。

11 项目管理:理解XX应用。

指标11.1 掌握XX方法;

指标11.2 了解建XX问题;

指标11.3 能够XX控制。

12.终身学习:具有XX能力。

指标12.1 拥有健康的体魄,能够正确面对压力,快速适应社会的发展;

指标12.2 能够认识到自主学习和终身学习的重要性,拥有自主学习的能力,XX问题;

指标12.3 能够适应行业发展,具有不断跟踪和学习学科前沿的能力。

六、主干学科:

(1)管XX程

(2)土XX程

七、主要课程:

工程XX审计等。

八、学分学时比例说明:

总学分为170学分,其中课内学分(含课内实践)为119.5学分,占总学分的70.29%,实践教学(含课内实践、集中实践、综合实践)学分为60.5学分,占总学分的35.59%;选修课学分为44学分,占总学分的25.88%。通识教育平台学分为48学分,占总学分的28.24%,学科基础教育平台学分为29.5学分,占总学分的17.35%,专业教育平台学分为42学分,占总学分的24.71%。

课内总学时(含课内实践)为1976学时,其中选修课学时为400学时,占课内总学时的20.24%。通识教育平台学时为832学时,占课内总学时的42.11%;学科基础教育平台学时为472学时,占课内总学时的23.89%,专业教育平台学时为672学时,占课内总学时的34.01%。

九、备注说明:

--------。

十、附表

附表1:专业XX配表

附表2:专业XX示表

附表3:实践XX平台

附表4:通识XX平台

附表5:学科XX平台

附表6:专业XX平台

附表7:毕业XX矩阵

附表8:毕业XX矩阵

2.2.2 将doc文件转换成docx文件

采用pywin32操做Word,doc文件转换为docx文件。安装pywin32库

pip install pywin32==227

转换代码如下:

from win32com import client as wc
def doc_read(file1):
    word = wc.Dispatch("Word.Application") # 打开word程序
    doc = word.Documents.Open(file1) # 打开word文档
    doc.SaveAs(file1+"x",12) # 另存为
    doc.Close() # 关闭 word 文档
    word.Quit() # 关闭 office

2.2.3 查看单个文件,并提取培养目标和学分学时比例说明

导入相关依赖

from glob import glob
import re
from win32com import client as wc
# import docx
from docx import Document
import pandas as pd
import os
import numpy as np
# Python glob()函数,是种文件通配符,非常常用。glob模块提供了函数用于从目录通配符搜索中生成文件列表

相关文章
|
1月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
113 10
|
12天前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
1月前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
2月前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
64 3
|
3月前
|
数据采集 JSON 数据处理
抓取和分析JSON数据:使用Python构建数据处理管道
在大数据时代,电商网站如亚马逊、京东等成为数据采集的重要来源。本文介绍如何使用Python结合代理IP、多线程等技术,高效、隐秘地抓取并处理电商网站的JSON数据。通过爬虫代理服务,模拟真实用户行为,提升抓取效率和稳定性。示例代码展示了如何抓取亚马逊商品信息并进行解析。
抓取和分析JSON数据:使用Python构建数据处理管道
|
2月前
|
图形学 Python
SciPy 空间数据2
凸包(Convex Hull)是计算几何中的概念,指包含给定点集的所有凸集的交集。可以通过 `ConvexHull()` 方法创建凸包。示例代码展示了如何使用 `scipy` 库和 `matplotlib` 绘制给定点集的凸包。
38 1
|
3月前
|
数据处理 Python
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
这篇文章介绍了如何使用Python读取Excel文件中的数据,处理后将其保存为txt、xlsx和csv格式的文件。
165 3
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
|
2月前
|
JSON 数据格式 索引
Python中序列化/反序列化JSON格式的数据
【11月更文挑战第4天】本文介绍了 Python 中使用 `json` 模块进行序列化和反序列化的操作。序列化是指将 Python 对象(如字典、列表)转换为 JSON 字符串,主要使用 `json.dumps` 方法。示例包括基本的字典和列表序列化,以及自定义类的序列化。反序列化则是将 JSON 字符串转换回 Python 对象,使用 `json.loads` 方法。文中还提供了具体的代码示例,展示了如何处理不同类型的 Python 对象。
|
2月前
|
数据采集 Web App开发 iOS开发
如何使用 Python 语言的正则表达式进行网页数据的爬取?
使用 Python 进行网页数据爬取的步骤包括:1. 安装必要库(requests、re、bs4);2. 发送 HTTP 请求获取网页内容;3. 使用正则表达式提取数据;4. 数据清洗和处理;5. 循环遍历多个页面。通过这些步骤,可以高效地从网页中提取所需信息。
|
2月前
|
数据采集 机器学习/深度学习 数据挖掘
利用Python进行高效的数据清洗与预处理
在数据科学和机器学习项目中,数据清洗与预处理是至关重要的一步。本文将介绍如何使用Python中的Pandas库进行高效的数据清洗与预处理。我们将探讨如何处理缺失值、异常值、重复数据,以及如何进行数据类型转换和特征工程。此外,还将介绍一些实用的技巧来优化数据处理的性能。