数据导入与预处理-第4章-数据获取python读取docx文档(上)

简介: 数据导入与预处理-第4章-pandas数据获取docx文档1.python读取docx文档概述1.1 从Word文件获取数据1.2 python-docx库介绍1. Paragraph类2. Table类

1.python读取docx文档概述

1.1 从Word文件获取数据

Word(Microsoft Office Word)是微软公司的一款文字处理软件,在日常工作、学习中常被用于处理或存储文字信息。Word文件有两种扩展名.doc和.docx,其中扩展名.doc为微软专用格式,并未对外完全授权,兼容性低;而扩展名为.docx的文件无论是从文件体积大小、响应速度、兼容性等方面都优于.doc文件。

由于Pandas库中没有提供读取Word文件的功能,这里需要借助第三方库python-docx读取Word文件(扩展名为.docx)中的数据。

python-docx是一个Python中专门用于创建和修改Word(以.docx为后缀名)文件的库,该库中提供了Word文件的全套操作,可以轻松地对Word文件进行读写操作。如果当前的环境中没有安装过python-docx库,那么需要先通过pip命令安装该库。

pip install python-docx

1.2 python-docx库介绍84950

python-docx库中主要有一个Document类,Document类的对象表示一个从Word文件加载、类似文件的对象,相当于一个Word文件。不同的Document类的对象对应不同的Word文件,这些对象是独立的,相互之间没有任何影响。

一个Word文件中的内容可能包含段落、标题、表格、样式等几种结构,同样地,Document类的对象包含对应各结构的属性。


paragraphs和tables属性可用于获取Word文件中段落对象和表格对象的列表,其中段落对象是一个Paragraph类的对象,表格对象是一个Tables类的对象。

1. Paragraph类

Paragraph类对象对应Word文件的段落结构。一个Word文件可能由多个段落组成,一旦该文件中输入了一个换行符,就会产生一个新的段落。


2. Table类

Table类对象对应Word文件的表格结构。虽然一个Word文件可能包含多个表格,但每个表格都是由若干个单元格组成,通过单元格的位置即可获取对象的单元格对象。

2.python-docx案例

2.1 基本操作

使用python-docx库读取Word文件的基本步骤

1.创建一个Document类对象

2.通过Document类对象的paragraphs或tables属性获取文件对象的段落对象或表格对象

3.通过段落对象或表格对象中的属性或方法获取文件内容


有一个Word文档,名称为 集合介绍.docx,下面我们将使用python-docx库读取该文件,并提取相关信息。



1.获取段落

代码:

import pandas as pd
import numpy as np
from docx import Document
# 创建Document类的对象
docx = Document('集合介绍.docx')
# 获取段落对象
paragraphs = docx.paragraphs
for i in paragraphs:
    # 使用text属性获取段落中的字符串
    print(i.text)
    print("*"*15)

输出为:

可以看出:每个换行符都代表一个段落

2. 获取表格

代码:

from docx import Document
# 创建Document对象实例
doc = Document('集合介绍.docx')
# 获取表格对象
tables = doc.tables
for table in tables:
    for row in table.rows:                   # 获取行数据对象
        row_content = []                      # 用于保存表格数据的列表
        for cell in row.cells[:]:           # 获取单元格对象
            row_content.append(cell.text)  # 获取单元格中的字符串
        print(row_content)                   # 以列表形式显示每一行数据
        print("*"*15)

输出为:


2.2 实战案例

在一个高校里,有许多的人才培养方案,现在需要对人才培养方案统计,提取其中的

人才培养方案为大部分为word文档,格式包含doc和docx两种,部分为PDF格式,PDF格式的文件处理,将在单独写博客进行拓展,本文仅对word文件进行处理。

2.2.1 查看原始数据目录结构

在进行操作前,首先对数据进行编码,去除学院,专业信息。进入到人才培养方案目录下,执行如下命令

E:\vscode\reddemo\edudata>tree /f > tree.txt

生成tree.txt文件,该文件中内容如下:

一级目录01-14代表04个学院,每个学院下有二级目录,二级目录包括一本,普本,双学位,合作办学等多种专业设置,每个二级目录下有对应三级文件,文件为对应专业的人才培养方案。

具体内容如下:

E:.
│  tree.txt
├─01
│  ├─一本
│  │      01人才培养方案(2021版)2021年9月13日 - 02.docx
│  │      02人才培养方案-2021版.doc
│  │      
│  └─普本
│          03.doc
│          04.doc
│          05.docx
├─02
│  │  0224+工程造价双学位(更新后20211009).doc
│  │  
│  ├─一本
│  │      01.docx
│  │      02.docx
│  │      
│  ├─双学位
│  │      022.doc
│  │      042.doc
│  │      
│  └─普本
│          03.docx
│          04.docx
│          05.docx
│          06.docx
│          08.docx
├─03
│  ├─一本
│  │      04.docx
│  │      
│  └─普本
│          01.docx
│          02.docx
│          03.docx
│          05.docx
├─04
│  ├─普本
│  │      01.doc
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学士学位
│          012.doc
│          022.docx
├─05
│  ├─一本
│  │      05.doc
│  │      
│  └─普本
│          04.docx
│          06.docx
├─06
│  ├─一本
│  │      01.docx
│  │      
│  └─普本
│          01.docx
│          03.docx
│          04.docx
│          05.docx
├─07
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─08
│  ├─一本
│  │      06.docx
│  │      
│  └─普本
│          01.pdf
│          02.pdf
│          05.docx
├─09
│  │  01.docx
│  │  02.doc
│  │  03.docx
│  │  04.docx
│  │  
│  └─合作办学
│          01.docx
├─10
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─11
│  └─普本
│      │  01.docx
│      │  03.docx
│      │  04.docx
│      │  
│      └─第二学士学位
│              04.docx
├─12
│  ├─普本
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学位
│          03金融数学专业第二学士学位.docx
├─13
│      01.docx
│      02.docx
└─14
    │  01.docx
    ├─专升本
    │      01.docx
    ├─双学位
    │      012.docx
    └─第二学士学位
            01.docx

查看单个文件 E:\vscode\reddemo\edudata\02\一本\02.docx,内容如下:


02专业(本科)人才培养方案

一、专业名称:02

二、修业年限及毕业学分要求:基本学XXX求170学分。

三、授予学位:工学学士

四、培养目标:

本专业培养适应我国社会XX用型人才。

五、毕业要求:

1 工程知识:能够将XXX题。

指标1.1 能够XX问题;

指标1.2 能够XX模型;

指标1.3 能够XX方案;

2 问题分析:能够XX结论。

指标2.1 能够XX环节;

指标2.2 能够XX表达;

指标2.3 能够XX结论。

3 设计/开发解决方案:能够XX等因素。

指标3.1 掌握XX因素;

指标3.2 能够XX审核;

指标3.3 能够XX改进;

指标3.4 能XX因素。

4 研究:能够XX结论。

指标4.1 能够XX方案;

指标4.2 能够XX方案;

指标4.3 能够XX数据;

指标4.4 能够XX结论。

5 使用XX局限性。

指标5.1 了解XX性;

指标5.2 能够XX并运用于复杂工程问题;

指标5.3 能够XX其局限性。

6 工程与社会:能够XX的责任。

指标6.1 能够XX影响;

指标6.2 能够XX影响。

指标6.3 能够XX责任。

7 环境和XX的影响。

指标7.1 能够XX内涵;

指标7.2 能XX评价;

指标7.3 能够XX理念。

8 职业规范:具有XX责任。

指标8.1 能够XX国情;

指标8.2 能够XX责任。

9 个人和团队:能够XX角色。

指标9.1 能够胜任XX的任务;

指标9.2 能够与XX能力。

10 沟通:能够XX交流。

指标10.1 能够XX交流;

指标10.2 了解XX交流。

11 项目管理:理解XX应用。

指标11.1 掌握XX方法;

指标11.2 了解建XX问题;

指标11.3 能够XX控制。

12.终身学习:具有XX能力。

指标12.1 拥有健康的体魄,能够正确面对压力,快速适应社会的发展;

指标12.2 能够认识到自主学习和终身学习的重要性,拥有自主学习的能力,XX问题;

指标12.3 能够适应行业发展,具有不断跟踪和学习学科前沿的能力。

六、主干学科:

(1)管XX程

(2)土XX程

七、主要课程:

工程XX审计等。

八、学分学时比例说明:

总学分为170学分,其中课内学分(含课内实践)为119.5学分,占总学分的70.29%,实践教学(含课内实践、集中实践、综合实践)学分为60.5学分,占总学分的35.59%;选修课学分为44学分,占总学分的25.88%。通识教育平台学分为48学分,占总学分的28.24%,学科基础教育平台学分为29.5学分,占总学分的17.35%,专业教育平台学分为42学分,占总学分的24.71%。

课内总学时(含课内实践)为1976学时,其中选修课学时为400学时,占课内总学时的20.24%。通识教育平台学时为832学时,占课内总学时的42.11%;学科基础教育平台学时为472学时,占课内总学时的23.89%,专业教育平台学时为672学时,占课内总学时的34.01%。

九、备注说明:

--------。

十、附表

附表1:专业XX配表

附表2:专业XX示表

附表3:实践XX平台

附表4:通识XX平台

附表5:学科XX平台

附表6:专业XX平台

附表7:毕业XX矩阵

附表8:毕业XX矩阵

2.2.2 将doc文件转换成docx文件

采用pywin32操做Word,doc文件转换为docx文件。安装pywin32库

pip install pywin32==227

转换代码如下:

from win32com import client as wc
def doc_read(file1):
    word = wc.Dispatch("Word.Application") # 打开word程序
    doc = word.Documents.Open(file1) # 打开word文档
    doc.SaveAs(file1+"x",12) # 另存为
    doc.Close() # 关闭 word 文档
    word.Quit() # 关闭 office

2.2.3 查看单个文件,并提取培养目标和学分学时比例说明

导入相关依赖

from glob import glob
import re
from win32com import client as wc
# import docx
from docx import Document
import pandas as pd
import os
import numpy as np
# Python glob()函数,是种文件通配符,非常常用。glob模块提供了函数用于从目录通配符搜索中生成文件列表

相关文章
|
4月前
|
XML 数据格式 Python
从手动编辑到代码生成:Python 助你高效创建 Word 文档
本文介绍如何用Python实现Word文档自动化生成,结合python-docx、openpyxl和matplotlib库,高效完成报告撰写、数据插入与图表生成,大幅提升办公效率,降低格式错误,实现数据驱动的文档管理。
750 2
|
4月前
|
数据采集 Web App开发 数据可视化
Python零基础爬取东方财富网股票行情数据指南
东方财富网数据稳定、反爬宽松,适合爬虫入门。本文详解使用Python抓取股票行情数据,涵盖请求发送、HTML解析、动态加载处理、代理IP切换及数据可视化,助你快速掌握金融数据爬取技能。
2609 1
|
4月前
|
Java 数据挖掘 数据处理
(Pandas)Python做数据处理必选框架之一!(一):介绍Pandas中的两个数据结构;刨析Series:如何访问数据;数据去重、取众数、总和、标准差、方差、平均值等;判断缺失值、获取索引...
Pandas 是一个开源的数据分析和数据处理库,它是基于 Python 编程语言的。 Pandas 提供了易于使用的数据结构和数据分析工具,特别适用于处理结构化数据,如表格型数据(类似于Excel表格)。 Pandas 是数据科学和分析领域中常用的工具之一,它使得用户能够轻松地从各种数据源中导入数据,并对数据进行高效的操作和分析。 Pandas 主要引入了两种新的数据结构:Series 和 DataFrame。
576 0
|
4月前
|
JSON 算法 API
Python采集淘宝商品评论API接口及JSON数据返回全程指南
Python采集淘宝商品评论API接口及JSON数据返回全程指南
|
4月前
|
JSON API 数据安全/隐私保护
Python采集淘宝拍立淘按图搜索API接口及JSON数据返回全流程指南
通过以上流程,可实现淘宝拍立淘按图搜索的完整调用链路,并获取结构化的JSON商品数据,支撑电商比价、智能推荐等业务场景。
|
5月前
|
存储 监控 API
Python实战:跨平台电商数据聚合系统的技术实现
本文介绍如何通过标准化API调用协议,实现淘宝、京东、拼多多等电商平台的商品数据自动化采集、清洗与存储。内容涵盖技术架构设计、Python代码示例及高阶应用(如价格监控系统),提供可直接落地的技术方案,帮助开发者解决多平台数据同步难题。
|
5月前
|
数据采集 关系型数据库 MySQL
python爬取数据存入数据库
Python爬虫结合Scrapy与SQLAlchemy,实现高效数据采集并存入MySQL/PostgreSQL/SQLite。通过ORM映射、连接池优化与批量提交,支持百万级数据高速写入,具备良好的可扩展性与稳定性。
|
5月前
|
JSON API 数据安全/隐私保护
Python采集淘宝评论API接口及JSON数据返回全流程指南
Python采集淘宝评论API接口及JSON数据返回全流程指南
|
5月前
|
数据采集 数据可视化 关系型数据库
基于python大数据的电影数据可视化分析系统
电影分析与可视化平台顺应电影产业数字化趋势,整合大数据处理、人工智能与Web技术,实现电影数据的采集、分析与可视化展示。平台支持票房、评分、观众行为等多维度分析,助力行业洞察与决策,同时提供互动界面,增强观众对电影文化的理解。技术上依托Python、MySQL、Flask、HTML等构建,融合数据采集与AI分析,提升电影行业的数据应用能力。
|
5月前
|
数据可视化 大数据 数据挖掘
基于python大数据的招聘数据可视化分析系统
本系统基于Python开发,整合多渠道招聘数据,利用数据分析与可视化技术,助力企业高效决策。核心功能包括数据采集、智能分析、可视化展示及权限管理,提升招聘效率与人才管理水平,推动人力资源管理数字化转型。

推荐镜像

更多