数据导入与预处理-第4章-数据获取python读取docx文档(上)

简介: 数据导入与预处理-第4章-pandas数据获取docx文档1.python读取docx文档概述1.1 从Word文件获取数据1.2 python-docx库介绍1. Paragraph类2. Table类

1.python读取docx文档概述

1.1 从Word文件获取数据

Word(Microsoft Office Word)是微软公司的一款文字处理软件,在日常工作、学习中常被用于处理或存储文字信息。Word文件有两种扩展名.doc和.docx,其中扩展名.doc为微软专用格式,并未对外完全授权,兼容性低;而扩展名为.docx的文件无论是从文件体积大小、响应速度、兼容性等方面都优于.doc文件。

由于Pandas库中没有提供读取Word文件的功能,这里需要借助第三方库python-docx读取Word文件(扩展名为.docx)中的数据。

python-docx是一个Python中专门用于创建和修改Word(以.docx为后缀名)文件的库,该库中提供了Word文件的全套操作,可以轻松地对Word文件进行读写操作。如果当前的环境中没有安装过python-docx库,那么需要先通过pip命令安装该库。

pip install python-docx

1.2 python-docx库介绍84950

python-docx库中主要有一个Document类,Document类的对象表示一个从Word文件加载、类似文件的对象,相当于一个Word文件。不同的Document类的对象对应不同的Word文件,这些对象是独立的,相互之间没有任何影响。

一个Word文件中的内容可能包含段落、标题、表格、样式等几种结构,同样地,Document类的对象包含对应各结构的属性。


paragraphs和tables属性可用于获取Word文件中段落对象和表格对象的列表,其中段落对象是一个Paragraph类的对象,表格对象是一个Tables类的对象。

1. Paragraph类

Paragraph类对象对应Word文件的段落结构。一个Word文件可能由多个段落组成,一旦该文件中输入了一个换行符,就会产生一个新的段落。


2. Table类

Table类对象对应Word文件的表格结构。虽然一个Word文件可能包含多个表格,但每个表格都是由若干个单元格组成,通过单元格的位置即可获取对象的单元格对象。

2.python-docx案例

2.1 基本操作

使用python-docx库读取Word文件的基本步骤

1.创建一个Document类对象

2.通过Document类对象的paragraphs或tables属性获取文件对象的段落对象或表格对象

3.通过段落对象或表格对象中的属性或方法获取文件内容


有一个Word文档,名称为 集合介绍.docx,下面我们将使用python-docx库读取该文件,并提取相关信息。



1.获取段落

代码:

import pandas as pd
import numpy as np
from docx import Document
# 创建Document类的对象
docx = Document('集合介绍.docx')
# 获取段落对象
paragraphs = docx.paragraphs
for i in paragraphs:
    # 使用text属性获取段落中的字符串
    print(i.text)
    print("*"*15)

输出为:

可以看出:每个换行符都代表一个段落

2. 获取表格

代码:

from docx import Document
# 创建Document对象实例
doc = Document('集合介绍.docx')
# 获取表格对象
tables = doc.tables
for table in tables:
    for row in table.rows:                   # 获取行数据对象
        row_content = []                      # 用于保存表格数据的列表
        for cell in row.cells[:]:           # 获取单元格对象
            row_content.append(cell.text)  # 获取单元格中的字符串
        print(row_content)                   # 以列表形式显示每一行数据
        print("*"*15)

输出为:


2.2 实战案例

在一个高校里,有许多的人才培养方案,现在需要对人才培养方案统计,提取其中的

人才培养方案为大部分为word文档,格式包含doc和docx两种,部分为PDF格式,PDF格式的文件处理,将在单独写博客进行拓展,本文仅对word文件进行处理。

2.2.1 查看原始数据目录结构

在进行操作前,首先对数据进行编码,去除学院,专业信息。进入到人才培养方案目录下,执行如下命令

E:\vscode\reddemo\edudata>tree /f > tree.txt

生成tree.txt文件,该文件中内容如下:

一级目录01-14代表04个学院,每个学院下有二级目录,二级目录包括一本,普本,双学位,合作办学等多种专业设置,每个二级目录下有对应三级文件,文件为对应专业的人才培养方案。

具体内容如下:

E:.
│  tree.txt
├─01
│  ├─一本
│  │      01人才培养方案(2021版)2021年9月13日 - 02.docx
│  │      02人才培养方案-2021版.doc
│  │      
│  └─普本
│          03.doc
│          04.doc
│          05.docx
├─02
│  │  0224+工程造价双学位(更新后20211009).doc
│  │  
│  ├─一本
│  │      01.docx
│  │      02.docx
│  │      
│  ├─双学位
│  │      022.doc
│  │      042.doc
│  │      
│  └─普本
│          03.docx
│          04.docx
│          05.docx
│          06.docx
│          08.docx
├─03
│  ├─一本
│  │      04.docx
│  │      
│  └─普本
│          01.docx
│          02.docx
│          03.docx
│          05.docx
├─04
│  ├─普本
│  │      01.doc
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学士学位
│          012.doc
│          022.docx
├─05
│  ├─一本
│  │      05.doc
│  │      
│  └─普本
│          04.docx
│          06.docx
├─06
│  ├─一本
│  │      01.docx
│  │      
│  └─普本
│          01.docx
│          03.docx
│          04.docx
│          05.docx
├─07
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─08
│  ├─一本
│  │      06.docx
│  │      
│  └─普本
│          01.pdf
│          02.pdf
│          05.docx
├─09
│  │  01.docx
│  │  02.doc
│  │  03.docx
│  │  04.docx
│  │  
│  └─合作办学
│          01.docx
├─10
│      01.doc
│      02.docx
│      03.docx
│      04.docx
├─11
│  └─普本
│      │  01.docx
│      │  03.docx
│      │  04.docx
│      │  
│      └─第二学士学位
│              04.docx
├─12
│  ├─普本
│  │      01.docx
│  │      02.docx
│  │      03.docx
│  │      
│  └─第二学位
│          03金融数学专业第二学士学位.docx
├─13
│      01.docx
│      02.docx
└─14
    │  01.docx
    ├─专升本
    │      01.docx
    ├─双学位
    │      012.docx
    └─第二学士学位
            01.docx

查看单个文件 E:\vscode\reddemo\edudata\02\一本\02.docx,内容如下:


02专业(本科)人才培养方案

一、专业名称:02

二、修业年限及毕业学分要求:基本学XXX求170学分。

三、授予学位:工学学士

四、培养目标:

本专业培养适应我国社会XX用型人才。

五、毕业要求:

1 工程知识:能够将XXX题。

指标1.1 能够XX问题;

指标1.2 能够XX模型;

指标1.3 能够XX方案;

2 问题分析:能够XX结论。

指标2.1 能够XX环节;

指标2.2 能够XX表达;

指标2.3 能够XX结论。

3 设计/开发解决方案:能够XX等因素。

指标3.1 掌握XX因素;

指标3.2 能够XX审核;

指标3.3 能够XX改进;

指标3.4 能XX因素。

4 研究:能够XX结论。

指标4.1 能够XX方案;

指标4.2 能够XX方案;

指标4.3 能够XX数据;

指标4.4 能够XX结论。

5 使用XX局限性。

指标5.1 了解XX性;

指标5.2 能够XX并运用于复杂工程问题;

指标5.3 能够XX其局限性。

6 工程与社会:能够XX的责任。

指标6.1 能够XX影响;

指标6.2 能够XX影响。

指标6.3 能够XX责任。

7 环境和XX的影响。

指标7.1 能够XX内涵;

指标7.2 能XX评价;

指标7.3 能够XX理念。

8 职业规范:具有XX责任。

指标8.1 能够XX国情;

指标8.2 能够XX责任。

9 个人和团队:能够XX角色。

指标9.1 能够胜任XX的任务;

指标9.2 能够与XX能力。

10 沟通:能够XX交流。

指标10.1 能够XX交流;

指标10.2 了解XX交流。

11 项目管理:理解XX应用。

指标11.1 掌握XX方法;

指标11.2 了解建XX问题;

指标11.3 能够XX控制。

12.终身学习:具有XX能力。

指标12.1 拥有健康的体魄,能够正确面对压力,快速适应社会的发展;

指标12.2 能够认识到自主学习和终身学习的重要性,拥有自主学习的能力,XX问题;

指标12.3 能够适应行业发展,具有不断跟踪和学习学科前沿的能力。

六、主干学科:

(1)管XX程

(2)土XX程

七、主要课程:

工程XX审计等。

八、学分学时比例说明:

总学分为170学分,其中课内学分(含课内实践)为119.5学分,占总学分的70.29%,实践教学(含课内实践、集中实践、综合实践)学分为60.5学分,占总学分的35.59%;选修课学分为44学分,占总学分的25.88%。通识教育平台学分为48学分,占总学分的28.24%,学科基础教育平台学分为29.5学分,占总学分的17.35%,专业教育平台学分为42学分,占总学分的24.71%。

课内总学时(含课内实践)为1976学时,其中选修课学时为400学时,占课内总学时的20.24%。通识教育平台学时为832学时,占课内总学时的42.11%;学科基础教育平台学时为472学时,占课内总学时的23.89%,专业教育平台学时为672学时,占课内总学时的34.01%。

九、备注说明:

--------。

十、附表

附表1:专业XX配表

附表2:专业XX示表

附表3:实践XX平台

附表4:通识XX平台

附表5:学科XX平台

附表6:专业XX平台

附表7:毕业XX矩阵

附表8:毕业XX矩阵

2.2.2 将doc文件转换成docx文件

采用pywin32操做Word,doc文件转换为docx文件。安装pywin32库

pip install pywin32==227

转换代码如下:

from win32com import client as wc
def doc_read(file1):
    word = wc.Dispatch("Word.Application") # 打开word程序
    doc = word.Documents.Open(file1) # 打开word文档
    doc.SaveAs(file1+"x",12) # 另存为
    doc.Close() # 关闭 word 文档
    word.Quit() # 关闭 office

2.2.3 查看单个文件,并提取培养目标和学分学时比例说明

导入相关依赖

from glob import glob
import re
from win32com import client as wc
# import docx
from docx import Document
import pandas as pd
import os
import numpy as np
# Python glob()函数,是种文件通配符,非常常用。glob模块提供了函数用于从目录通配符搜索中生成文件列表

相关文章
|
13天前
|
JSON API 数据格式
Python 请求微店商品详情数据 API 接口
微店开放平台允许开发者通过API获取商品详情数据。使用Python请求微店商品详情API的主要步骤包括:1. 注册并申请API权限,获得app_key和app_secret;2. 确定API接口地址与请求参数,如商品ID;3. 生成签名确保请求安全合法;4. 使用requests库发送HTTP请求获取数据;5. 处理返回的JSON格式响应数据。开发时需严格遵循微店API文档要求。
|
4天前
|
Shell Python
[oeasy]python072_名字空间是怎么玩的_from_import_as_导入_namespace
本文介绍了Python中名字空间和模块导入的使用方法。主要内容包括: 1. **回忆上次内容**:回顾了之前导入系统模块(如`__hello__`、`time`)和自定义模块(如`my_file`),并介绍了如何导入和使用模块中的变量。 2. **从shell开始**:展示了如何在命令行中编辑和切换文件,以及如何通过`import`语句引入模块。 3. **修改oeasy.py**:演示了如何通过`import my_file`导入模块,并将模块中的`pi`赋值给本地变量`pi`。 4. **locals()函数**:解释了如何使用`locals()`查看当前作用域内的本地变量及其值。
23 8
|
8天前
|
数据采集 XML 存储
Python爬虫实战:一键采集电商数据,掌握市场动态!
这个爬虫还挺实用,不光能爬电商数据,改改解析规则,啥数据都能爬。写爬虫最重要的是要有耐心,遇到问题别着急,慢慢调试就成。代码写好了,运行起来那叫一个爽,分分钟几千条数据到手。
|
13天前
|
人工智能 自然语言处理 Shell
[oeasy]python070_如何导入模块_导入模块的作用_hello_dunder_双下划线
本文介绍了如何在Python中导入模块及其作用,重点讲解了`__hello__`模块的导入与使用。通过`import`命令可以将外部模块引入当前环境,增强代码功能。例如,导入`__hello__`模块后可输出“Hello world!”。此外,还演示了如何使用`help()`和`dir()`函数查询模块信息,并展示了导入多个模块的方法。最后,通过一个实例,介绍了如何利用`jieba`、`WordCloud`和`matplotlib`模块生成词云图。总结来说,模块是封装好的功能部件,能够简化编程任务并提高效率。未来将探讨如何创建自定义模块。
33 8
|
11天前
|
JSON 监控 API
python语言采集淘宝商品详情数据,json数据示例返回
通过淘宝开放平台的API接口,开发者可以轻松获取商品详情数据,并利用这些数据进行商品分析、价格监控、库存管理等操作。本文提供的示例代码和JSON数据解析方法,可以帮助您快速上手淘宝商品数据的采集与处理。
|
17天前
|
数据采集 供应链 API
实战指南:通过1688开放平台API获取商品详情数据(附Python代码及避坑指南)
1688作为国内最大的B2B供应链平台,其API为企业提供合法合规的JSON数据源,直接获取批发价、SKU库存等核心数据。相比爬虫方案,官方API避免了反爬严格、数据缺失和法律风险等问题。企业接入1688商品API需完成资质认证、创建应用、签名机制解析及调用接口四步。应用场景包括智能采购系统、供应商评估模型和跨境选品分析。提供高频问题解决方案及安全合规实践,确保数据安全与合法使用。立即访问1688开放平台,解锁B2B数据宝藏!
|
24天前
|
数据采集 存储 前端开发
用Python抓取亚马逊动态加载数据,一文读懂
用Python抓取亚马逊动态加载数据,一文读懂
|
16天前
|
存储 数据采集 JSON
Python爬取某云热歌榜:解析动态加载的歌曲数据
Python爬取某云热歌榜:解析动态加载的歌曲数据
|
10天前
|
机器学习/深度学习 存储 设计模式
Python 高级编程与实战:深入理解性能优化与调试技巧
本文深入探讨了Python的性能优化与调试技巧,涵盖profiling、caching、Cython等优化工具,以及pdb、logging、assert等调试方法。通过实战项目,如优化斐波那契数列计算和调试Web应用,帮助读者掌握这些技术,提升编程效率。附有进一步学习资源,助力读者深入学习。
|
10天前
|
机器学习/深度学习 数据可视化 TensorFlow
Python 高级编程与实战:深入理解数据科学与机器学习
本文深入探讨了Python在数据科学与机器学习中的应用,介绍了pandas、numpy、matplotlib等数据科学工具,以及scikit-learn、tensorflow、keras等机器学习库。通过实战项目,如数据可视化和鸢尾花数据集分类,帮助读者掌握这些技术。最后提供了进一步学习资源,助力提升Python编程技能。

热门文章

最新文章