【python】python红楼梦小说数据抓取合并(源码+数据)【独一无二】

简介: 【python】python红楼梦小说数据抓取合并(源码+数据)【独一无二】

一、设计要求

1)抓取红楼梦第一回至第一百二十回的原文,将原文分别保存在txt中,例如:第一回.txt。

2)将保存的txt,合并成一个红楼梦.txt。


网页如下:

a1e0c2471402491faab048d752ecdcbf.png


👉👉👉 源码获取 关注【测试开发自动化】公众号,回复 “红楼梦” 获取。👈👈👈


小说内容如下:

70883697b318489fac0f519052f8ff54.png


👉👉👉 源码获取 关注【测试开发自动化】公众号,回复 “红楼梦” 获取。👈👈👈


二、设计思路

代码是红楼梦抓取脚本,旨在从一系列网页中提取内容,这些网页与一个文本相关《红楼梦》。


1.导入库:脚本开始时导入必要的库:requests 用于发起 HTTP 请求,lxml 用于解析 HTML。


2.遍历URL:它在一个范围内进行迭代,从1到120(包括1和2)。每次迭代都会使用字符串格式化形成一个URL,以访问类似 http://xxx.xxxx 的页面。


3.获取和解析:对于每个URL,它发送一个HTTP GET请求来获取页面的HTML内容。然后将编码设置为’gbk’(可能是因为页面上的中文文本)。它打印了获取的HTML内容。


4.提取内容:然后使用XPath表达式从HTML中提取特定内容。标题从<html><body><p[2]><font><b>标签中提取,内容从<html><body><center><table>//font标签中提取。


5.写入文件:它将提取的标题和内容分别写入以数字命名的文本文件中(如’1.txt’,‘2.txt’ …)。


6.合并文本文件:在提取了每个页面的内容之后,它定义了一个名为merge_txt()的函数,用于将所有提取的内容合并到一个名为’红楼梦.txt’的单个文本文件中。它遍历目录中的所有文件,读取每个文件的内容,并将其追加到合并的文件中。


7.清理:合并后,它打印每个单独文件的内容,然后写入合并的文件,并在其中添加了几个换行字符以分隔内容。


👉👉👉 源码获取 关注【测试开发自动化】公众号,回复 “红楼梦” 获取。👈👈👈


三、运行结果

bf667bd200a6418e99b86842e493dfe0.png


👉👉👉 源码获取 关注【测试开发自动化】公众号,回复 “红楼梦” 获取。👈👈👈


d8824ccc9cc34f75866497c4681d1a1d.png


👉👉👉 源码获取 关注【测试开发自动化】公众号,回复 “红楼梦” 获取。👈👈👈


相关文章
|
1月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
104 10
|
10天前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
1月前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
2月前
|
JSON 开发工具 git
基于Python和pygame的植物大战僵尸游戏设计源码
本项目是基于Python和pygame开发的植物大战僵尸游戏,包含125个文件,如PNG图像、Python源码等,提供丰富的游戏开发学习素材。游戏设计源码可从提供的链接下载。关键词:Python游戏开发、pygame、植物大战僵尸、源码分享。
|
2月前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
64 3
|
Linux C语言 开发者
源码安装Python学会有用还能装逼 | 解决各种坑
相信朋友们都看过这个零基础学习Python的开篇了
467 0
源码安装Python学会有用还能装逼 | 解决各种坑
|
1月前
|
人工智能 数据可视化 数据挖掘
探索Python编程:从基础到高级
在这篇文章中,我们将一起深入探索Python编程的世界。无论你是初学者还是有经验的程序员,都可以从中获得新的知识和技能。我们将从Python的基础语法开始,然后逐步过渡到更复杂的主题,如面向对象编程、异常处理和模块使用。最后,我们将通过一些实际的代码示例,来展示如何应用这些知识解决实际问题。让我们一起开启Python编程的旅程吧!
|
30天前
|
存储 数据采集 人工智能
Python编程入门:从零基础到实战应用
本文是一篇面向初学者的Python编程教程,旨在帮助读者从零开始学习Python编程语言。文章首先介绍了Python的基本概念和特点,然后通过一个简单的例子展示了如何编写Python代码。接下来,文章详细介绍了Python的数据类型、变量、运算符、控制结构、函数等基本语法知识。最后,文章通过一个实战项目——制作一个简单的计算器程序,帮助读者巩固所学知识并提高编程技能。