【安全合规】python爬虫从0到1 -beautifulsoup(bs4)的基本使用

简介: python爬虫从0到1 -beautifulsoup(bs4)的基本使用

文章目录

(一)bs4基本简介

1. 功能

beautifulsoup简称bs4,和lxml一样是一个html的解析器,主要功能也是解析和获取数据。


2. 优缺点

缺点:效率总体来说没有lxml高

优点:接口设计人性化,使用方便


(二)安装以及创建

1. 安装.image.png

2. 导入

from bs4 import beautifulsoup

3. 创建对象

  1. 服务器响应的文件生成对象
soup = BeautifulSoup(response.read().decode('utf-8'),'lxml')
  1. 本地文件生成对象


image.pngimage.png

soup  = BeautifulSoup(open('beautiful.html',encoding='utf-8'),'lxml')

注:打开文件格式默认为gbk,因此我们需要指定编码为utf-8

(三)节点定位

根据标签名查找结点

以下实例由此HTML源码为基础:

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Title</title>
</head>
<body>
<div>
<ul>
    <li id="l1">北京</li>
    <li id = 'l2'>上海</li>
    <li class="cl3">重庆</li>
    <li  class="cl4">天津</li>
    <p>welcome</p>
    <a href="" id = 'i1' class="a1">python爬虫</a>
</ul>
</div>
<div id="i2">
    <p id = "p1">hello world</p>
    <a href="https://baidu.com"  id = 'i3' title="t2">baidu</a>
</div>
</body>
</html>
  1. 查找第一个符合条件的值:
print(soup.a)
  1. 查找标签的属性和属性值并以列表的形式展现
print(soup.a.attrs)

(五)获取节点信息

获取节点内容image.png实例:

html代码image.png

obj = soup.select('#i2')[0]
print(obj.string)
print(obj.get_text())

image.png

obj = soup.select('.cl3')[0]
# 获取标签的名字
print(obj.name)
# 获取属性值并以字典的形式显示
print(obj.attrs)

image.png

obj = soup.select('.cl3')[0]
print(obj.attrs.get('class'))
print(obj.get('class'))
print(obj['class'])

image.png

相关文章
|
19天前
|
数据采集 存储 XML
Python爬虫定义入门知识
Python爬虫是用于自动化抓取互联网数据的程序。其基本概念包括爬虫、请求、响应和解析。常用库有Requests、BeautifulSoup、Scrapy和Selenium。工作流程包括发送请求、接收响应、解析数据和存储数据。注意事项包括遵守Robots协议、避免过度请求、处理异常和确保数据合法性。Python爬虫强大而灵活,但使用时需遵守法律法规。
|
20天前
|
数据采集 缓存 定位技术
网络延迟对Python爬虫速度的影响分析
网络延迟对Python爬虫速度的影响分析
|
21天前
|
数据采集 Web App开发 监控
高效爬取B站评论:Python爬虫的最佳实践
高效爬取B站评论:Python爬虫的最佳实践
|
28天前
|
数据采集 存储 JSON
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第27天】本文介绍了Python网络爬虫Scrapy框架的实战应用与技巧。首先讲解了如何创建Scrapy项目、定义爬虫、处理JSON响应、设置User-Agent和代理,以及存储爬取的数据。通过具体示例,帮助读者掌握Scrapy的核心功能和使用方法,提升数据采集效率。
79 6
|
22天前
|
数据采集 存储 JSON
Python爬虫开发中的分析与方案制定
Python爬虫开发中的分析与方案制定
|
27天前
|
数据采集 JSON 测试技术
Python爬虫神器requests库的使用
在现代编程中,网络请求是必不可少的部分。本文详细介绍 Python 的 requests 库,一个功能强大且易用的 HTTP 请求库。内容涵盖安装、基本功能(如发送 GET 和 POST 请求、设置请求头、处理响应)、高级功能(如会话管理和文件上传)以及实际应用场景。通过本文,你将全面掌握 requests 库的使用方法。🚀🌟
45 7
|
26天前
|
数据采集 Web App开发 JavaScript
爬虫策略规避:Python爬虫的浏览器自动化
爬虫策略规避:Python爬虫的浏览器自动化
|
26天前
|
数据采集 存储 XML
Python实现网络爬虫自动化:从基础到实践
本文将介绍如何使用Python编写网络爬虫,从最基础的请求与解析,到自动化爬取并处理复杂数据。我们将通过实例展示如何抓取网页内容、解析数据、处理图片文件等常用爬虫任务。
141 1
|
13天前
|
数据采集 JavaScript 程序员
探索CSDN博客数据:使用Python爬虫技术
本文介绍了如何利用Python的requests和pyquery库爬取CSDN博客数据,包括环境准备、代码解析及注意事项,适合初学者学习。
51 0
|
29天前
|
数据采集 前端开发 中间件
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第26天】Python是一种强大的编程语言,在数据抓取和网络爬虫领域应用广泛。Scrapy作为高效灵活的爬虫框架,为开发者提供了强大的工具集。本文通过实战案例,详细解析Scrapy框架的应用与技巧,并附上示例代码。文章介绍了Scrapy的基本概念、创建项目、编写简单爬虫、高级特性和技巧等内容。
57 4