DEDECMS之九 文章采集

简介: 到很多网友都为织梦(DEDECMS)的采集教程头疼,的确,官方出的教程太笼统了,什么都没说,换个网站你什么都做不了,这个教程是最详尽的教程,让你一看即会! 一、列表采集 第一步、我们打开织梦后台点击采集——采集节点管理——增加新节点 第二步、这里我们以采集普通文章为例,我们选择普通文章,然后确定 第三步、进入了采集的设置页面,填写节点名称。

到很多网友都为织梦(DEDECMS)的采集教程头疼,的确,官方出的教程太笼统了,什么都没说,换个网站你什么都做不了,这个教程是最详尽的教程,让你一看即会!

一、列表采集

第一步、我们打开织梦后台点击采集——采集节点管理——增加新节点

DeDeCMS织梦的采集教程,超级详细
第二步、 这里我们以采集普通文章为例,我们选择普通文章,然后确定
DeDeCMS织梦的采集教程,超级详细
第三步、进入了采集的设置页面,填写节点名称。
第四步、打开你想要采集的文章列表页。
这里以这个网站为例,http://www.nanmafan.com/xunyicao/打开这个页面,
右键——查看源文件找到目标页面编码,就在charset后面)
  DeDeCMS织梦的采集教程,超级详细
第五步、 填写页面的基本信息,填完后如图
DeDeCMS织梦的采集教程,超级详细
第六步、 填写列表网址获取规则看看文章列表第一页的地址。
http://www.nanmafan.com/xunyicao/list_49_1.html
对比第二页的地址http://www.nanmafan.com/xunyicao/list_49_2.html
我们发现了他们除了49_后面的数字不一样,其他的都一样,所以我们可以这样写
http://www.nanmafan.com/xunyicao/list_49_(*).html
就是把1换成了(*)因为这里只有2页,所以我们就填从1到2每页递增当然是1了,2-1...是等于1吧
这里我们就填写完了
 
DeDeCMS织梦的采集教程,超级详细
可能大家采集的有些列表没有规则,那就只有手工指定列表网址了,如图
每行写一个页面地址
DeDeCMS织梦的采集教程,超级详细

 第七步、填写文章网址匹配规则了,回到文章列表页

右键查看源文件找到区域开始的HTML,就是找文章列表开始的标志。

 

我们很容易的找到了如图中的“新闻列表”。从这里开始,后面就是文章列表里,再找文章列表结束的HTML

就是这个了,一个很容易找到的标志
如果链接中含有图片:
不处理采集为缩略图这里根据自己的需要选择

 

DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
 

二、内容页采集

第八步、对区域网址进行再次筛选:

(使用正则表达式)必须包含:(优先级高于后者)

不能包含:打开源文件,我们可以很清楚的看到,文章链接都是以.html结束的所以,我们在必须包含后面填.html如果遇到有些列表很麻烦,还可以填写后面的不能包含

点击保存设置进入下一步,可以看到我们获得的文章网址
看到这些就是对的了,我们保存信息进入下一步设置内容字段获取规则
我们看看文章有没有分页,随便进入一篇文章看看。。我们看到这里的文章没有分页
所以这里的我们就默认了

我们现在来找文章标题等等随便进入一篇文章,右键查看源文件
看看这些

依照源码填写

DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细

第九步、填写文章内容的开始,结束和上面的一样,找到开始和结束标志.

开始部分如图

结束部分如图

最后填写如图

DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
 

第十步、你想过滤文章中的什么内容就到过滤规则里写吧,比如要过滤文章中的图片,

选择常用规则,如图

再勾选IMG,如图

然后确定

这样我们就把正文中的图片过滤了

DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细

第十一步、设置完毕后点保存设置并预览,如图

这样一个采集规则就写好了,很简单吧有些网站很难写,可要多下点功夫了哦
我们点保存并开始采集——开始采集网页一会的功夫就采集完了

看看我们采集到的文章

DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细
DeDeCMS织梦的采集教程,超级详细

最后、导出数据

首先选择要导入到的栏目,按“请选择”那里即可在弹出的窗口中选择你需要导入的栏目发布选项这里一般默认即可,除非你不想马上发布。每批导入默认是30条,这里修改与否都无所谓,附带选项一般选“排除重复标题”,至于自动生成HTML那个选项建议先别生成,因为我们还要去批量提取摘要和关键字。

文章标题
匹配规则:<title>[内容]</title>
过滤规则:{dede:trimreplace=""}_XXX网站{/dede:trim}

DeDeCMS织梦的采集教程,超级详细
 

来自百度http://jingyan.baidu.com/article/642c9d34ab179b644a46f782.html

三、采集规则补充

(一)文字过滤与替换的方法

1.去除超链接,这种最常用。

{dede:trim replace=”}<a([^>]*)>{/dede:trim}
{dede:trim replace=”}</a>{/dede:trim}
如果填成这样,那就把链接的文本也一起去掉了

{dede:trim replace=”}<a([^>]*)>(.*)</a>{/dede:trim}

2.过滤JS调用广告,比如GG的广告,就加个这样的:

{dede:trim replace=”}<script([^>]*)>(.*)</script>{/dede:trim}

3.过滤div标签。

这个很重要,如果没过滤干净则可能使发布出来的文章版面错位, 目前大多数遇到采集后错位的原因在此。

{dede:trim replace=”}<div([^.]*)>{/dede:trim}
{dede:trim replace=”}</div>{/dede:trim}

有的时候也需要这样子过滤:

{dede:trim replace=”}<div 选择器>(.*)</div>{/dede:trim}

4.其它的过滤规则可以照以上规律进行推出。
5.过滤摘要和关键字使用,经常要用到。

{dede:trim replace=”}{/dede:trim}

6.简单替换。
{dede:trim replace=’替换后的词语’}要替换的词语{/dede:trim}
7.去掉src

{dede:trim replace=""}src="([^"]*)"{/dede:trim}

 

(二)内容页指定作者、来源

 指定value值即可实现:

{dede:item field='writer' value='小军' isunit='' isdown=''}
{dede:match}{/dede:match}

{dede:function}{/dede:function}
{/dede:item}

{dede:item field='source' value='军事网' isunit='' isdown=''}
{dede:match}{/dede:match}

{dede:function}{/dede:function}
{/dede:item}

(三)内容页分页采集

在“内容分页导航所在的区域匹配规则:”,填写规则,如 <ul class="pages>[内容]</ul>,然后选择“全部列出的分页列表”。

遭遇情景:如果选择“上下页形式或不完整的分页列表”,列表页的所有文章内容全部一起写入

 

相关文章
|
2月前
|
存储
phpcms自带采集功能 需注意
phpcms自带采集功能 需注意
16 0
|
2月前
|
API 数据库 数据安全/隐私保护
蓝奏云直链获取在线解析网站源码
蓝奏云直链获取在线解析网站源码 蓝奏云链接解析 本地API接口 支持有无密码和短期直链和永久直链,同时还可以显示文件名和大小。 这个解析器无需数据库即可搭建,API接口已经本地化,非常简单易用。
70 2
蓝奏云直链获取在线解析网站源码
|
2月前
|
数据采集 JSON 前端开发
制作web端的图片搜索站点(看冰冰)
制作web端的图片搜索站点(看冰冰)
15 0
|
2月前
|
监控 前端开发 安全
PHP脚本:实现实时监控电脑屏幕并生成网页截图
在当今数字化时代,实时监控和数据收集变得越来越重要。有时候,我们需要监视某些活动,例如员工的工作情况、儿童的网络活动等等。在这篇文章中,我们将探讨如何使用PHP脚本实现实时监控电脑屏幕,并将监控到的数据自动提交到网站。
183 2
|
10月前
|
监控 UED 开发者
通过云拨测对指定网页进行网页性能监测
本实验将通过云拨测对指定服务器进行网页性能监测,评估网站服务质量和用户体验。
241 3
|
开发框架 安全 .NET
Dedecms打点入内网
Dedecms打点入内网
|
存储 数据采集 搜索推荐
全网搜索引擎采集(msray)|URL采集|关键词采集|域名采集
msray-plus支持搜索引擎结果采集、域名采集、URL采集、网址采集、全网域名采集、CMS采集、联系信息采集
全网搜索引擎采集(msray)|URL采集|关键词采集|域名采集
|
存储 数据采集 搜索推荐
多搜索引擎关键词采集域名采集URL采集联系信息采集工具
Msray-plus,是一款采用GO语言开发的企业级综合性爬虫/采集软件。 支持:搜索引擎结果采集、域名采集、URL采集、网址采集、全网域名采集、CMS采集、联系信息采集 支持亿级数据存储、导入、重复判断等。无需使用复杂的命令,提供本地WEB管理后台对软件进行相关操作,功能强大且简单易上手! 1:可从国内外多个搜索引擎批量采集用户导入的关键词对应的搜索结果(SERP数据),并进行结构化数据存储与自定义过滤处理; 2:可从用户提供的url种子地址,源源不断的自动爬取全网网站数据,并进行结构化数据存储与自定义过滤处理; 3:可从用户提供的网站列表数据中,全自动的提取出网站联系方式信息,
多搜索引擎关键词采集域名采集URL采集联系信息采集工具
|
数据采集 搜索推荐 SEO
全网URL采集工具(msray),支持关键词采集,域名采集,联系人采集
全网URL采集工具,支持baidu,sogou,bing,Google,Yandex,Want,神马,DuckDuckGo,等搜索引擎,支持关键词采集,域名采集,URL采集,联系方式采集,手机号采集,qq采集,邮箱采集
全网URL采集工具(msray),支持关键词采集,域名采集,联系人采集
|
数据采集 数据安全/隐私保护 Python
Python爬虫系列7-采集千图网无水印的VIP数据
每个人在改变自己的时候其实是一个非常缓慢的过程,慢到你甚至长时间感觉不到一丝的变化,但记住 你的人生,只有你才是主角。坚持下去,正所谓量变引起质变,你经历的每一件事情都自有它的意义。 大家都知道现在是一个网络爆炸的时代;网上的资料满天飞的到处都是;但不知道细心的同学有没有发现;当我们去查阅资料的时候;网上很多的内容有时候并不能如愿的解决我们的疑惑;这也导致我们在这期间浪费了大量的时间、精力;当然也能理解;毕竟没有任何人会无缘无故的无偿去做一件事情;或者说无缘无故的把自己多年积累到的经验、知识、技巧等毫无保留的奉献出来。 ~师者传道受业解惑~ PS:不要copy;一定要理解思路。
Python爬虫系列7-采集千图网无水印的VIP数据