【安全合规】python爬虫从0到1 -beautifulsoup(bs4)的基本使用

简介: python爬虫从0到1 -beautifulsoup(bs4)的基本使用

文章目录

(一)bs4基本简介

1. 功能

beautifulsoup简称bs4,和lxml一样是一个html的解析器,主要功能也是解析和获取数据。


2. 优缺点

缺点:效率总体来说没有lxml高

优点:接口设计人性化,使用方便


(二)安装以及创建

1. 安装.image.png

2. 导入

from bs4 import beautifulsoup

3. 创建对象

  1. 服务器响应的文件生成对象
soup = BeautifulSoup(response.read().decode('utf-8'),'lxml')
  1. 本地文件生成对象


image.pngimage.png

soup  = BeautifulSoup(open('beautiful.html',encoding='utf-8'),'lxml')

注:打开文件格式默认为gbk,因此我们需要指定编码为utf-8

(三)节点定位

根据标签名查找结点

以下实例由此HTML源码为基础:

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Title</title>
</head>
<body>
<div>
<ul>
    <li id="l1">北京</li>
    <li id = 'l2'>上海</li>
    <li class="cl3">重庆</li>
    <li  class="cl4">天津</li>
    <p>welcome</p>
    <a href="" id = 'i1' class="a1">python爬虫</a>
</ul>
</div>
<div id="i2">
    <p id = "p1">hello world</p>
    <a href="https://baidu.com"  id = 'i3' title="t2">baidu</a>
</div>
</body>
</html>
  1. 查找第一个符合条件的值:
print(soup.a)
  1. 查找标签的属性和属性值并以列表的形式展现
print(soup.a.attrs)

(五)获取节点信息

获取节点内容image.png实例:

html代码image.png

obj = soup.select('#i2')[0]
print(obj.string)
print(obj.get_text())

image.png

obj = soup.select('.cl3')[0]
# 获取标签的名字
print(obj.name)
# 获取属性值并以字典的形式显示
print(obj.attrs)

image.png

obj = soup.select('.cl3')[0]
print(obj.attrs.get('class'))
print(obj.get('class'))
print(obj['class'])

image.png

相关文章
|
7月前
|
数据采集 Web App开发 数据安全/隐私保护
实战:Python爬虫如何模拟登录与维持会话状态
实战:Python爬虫如何模拟登录与维持会话状态
|
8月前
|
数据采集 Web App开发 自然语言处理
新闻热点一目了然:Python爬虫数据可视化
新闻热点一目了然:Python爬虫数据可视化
|
7月前
|
数据采集 监控 数据库
Python异步编程实战:爬虫案例
🌟 蒋星熠Jaxonic,代码为舟的星际旅人。从回调地狱到async/await协程天堂,亲历Python异步编程演进。分享高性能爬虫、数据库异步操作、限流监控等实战经验,助你驾驭并发,在二进制星河中谱写极客诗篇。
Python异步编程实战:爬虫案例
|
8月前
|
数据采集 存储 XML
Python爬虫技术:从基础到实战的完整教程
最后强调: 父母法律法规限制下进行网络抓取活动; 不得侵犯他人版权隐私利益; 同时也要注意个人安全防止泄露敏感信息.
1003 19
|
7月前
|
数据采集 存储 JSON
Python爬虫常见陷阱:Ajax动态生成内容的URL去重与数据拼接
Python爬虫常见陷阱:Ajax动态生成内容的URL去重与数据拼接
|
8月前
|
数据采集 存储 Web App开发
处理Cookie和Session:让Python爬虫保持连贯的"身份"
处理Cookie和Session:让Python爬虫保持连贯的"身份"
|
7月前
|
数据采集 存储 JavaScript
解析Python爬虫中的Cookies和Session管理
Cookies与Session是Python爬虫中实现状态保持的核心。Cookies由服务器发送、客户端存储,用于标识用户;Session则通过唯一ID在服务端记录会话信息。二者协同实现登录模拟与数据持久化。
|
8月前
|
数据采集 Web App开发 前端开发
处理动态Token:Python爬虫应对AJAX授权请求的策略
处理动态Token:Python爬虫应对AJAX授权请求的策略
|
8月前
|
数据采集 网络协议 API
协程+连接池:高并发Python爬虫的底层优化逻辑
协程+连接池:高并发Python爬虫的底层优化逻辑
|
8月前
|
数据采集 监控 Shell
无需Python:Shell脚本如何成为你的自动化爬虫引擎?
Shell脚本利用curl/wget发起请求,结合文本处理工具构建轻量级爬虫,支持并行加速、定时任务、增量抓取及分布式部署。通过随机UA、异常重试等优化提升稳定性,适用于日志监控、价格追踪等场景。相比Python,具备启动快、资源占用低的优势,适合嵌入式或老旧服务器环境,复杂任务可结合Python实现混合编程。

推荐镜像

更多