scrapy 的 selector 练习

简介: 网页结构: Example website Name: My image 1 Name: My image 2 Name: My image 3 Name: My image 4 Name: My image 5 连接:scrapy shell http://doc.

网页结构

<html>
 <head>
  <base href='http://example.com/' />
  <title>Example website</title>
 </head>
 <body>
  <div id='images'>
   <a href='image1.html'>Name: My image 1 <br /><img src='image1_thumb.jpg' /></a>
   <a href='image2.html'>Name: My image 2 <br /><img src='image2_thumb.jpg' /></a>
   <a href='image3.html'>Name: My image 3 <br /><img src='image3_thumb.jpg' /></a>
   <a href='image4.html'>Name: My image 4 <br /><img src='image4_thumb.jpg' /></a>
   <a href='image5.html'>Name: My image 5 <br /><img src='image5_thumb.jpg' /></a>
  </div>
 </body>
</html>

连接:

scrapy shell http://doc.scrapy.org/en/latest/_static/selectors-sample1.html

Play:
注意xapthcss两种方式的区别与联系

# selector
response.selector.xpath('//title/text()').extract()
response.selector.css('title::text').extract()


# response的selector的xpath与css太常用了,所以提供了简捷写法:

# 文本一
response.xpath('//title/text()').extract()
response.css('title::text').extract()

# 文本 包括子节点
sel.xpath("//a[1]//text()").extract()

# 文本 包括子节点
sel.xpath("string(//a[1])").extract()


# 属性
response.xpath('//img/@src').extract()
response.css('img::attr(src)').extract()

# 混合
response.css('img').xpath('@src').extract()
response.xpath('//img').css('::attr(src)').extract()

# 精确
response.xpath('//div[@id="images"]/a/text()').extract()
response.css('div[id=images] a::text').extract()

# 模糊
response.xpath('//div[contains(@id, "image")]/a/text()').extract()
response.css('div[id*=image] a::text').extract()

# 正则
response.xpath('//a[contains(@href, "image")]/text()').re(r'Name:\s*(.*)')
目录
相关文章
|
4月前
|
数据采集 中间件 调度
Scrapy 爬虫框架的基本使用
Scrapy 爬虫框架的基本使用
|
6月前
|
Python
scrapy学习笔记---初识
scrapy学习笔记---初识
25 0
|
存储 算法 数据库
在langchain中使用自定义example selector
在之前的文章中,我们提到了可以在跟大模型交互的时候,给大模型提供一些具体的例子内容,方便大模型从这些内容中获取想要的答案。这种方便的机制在langchain中叫做FewShotPromptTemplate。
|
Linux
4.2 Selector
4.2 Selector
63 0
|
移动开发
SassError: expected selector.(sass报错)
SassError: expected selector.(sass报错)
420 0
|
数据采集 中间件 Python
Python爬虫:Scrapy中间件Middleware和Pipeline
Python爬虫:Scrapy中间件Middleware和Pipeline
265 4
Python爬虫:Scrapy中间件Middleware和Pipeline
|
监控 Java API
Selector 选择器
Selector 选择器
116 0
|
数据采集 调度 Python
Python爬虫:Scrapy的Crawler对象及扩展Extensions和信号Signa
Python爬虫:Scrapy的Crawler对象及扩展Extensions和信号Signa
371 0
|
数据采集 前端开发 数据库
Scrapy框架| Scrapy中spiders的那些事......
Scrapy框架| Scrapy中spiders的那些事......
129 0
|
前端开发 Python Shell
使用scrapy抓取股票代码
个人博客:https://mypython.me 源码地址:https://github.com/geeeeeeeek/scrapy_stock 抓取工具:scrapy scrapy介绍 Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。
2822 0