php使用redis异步队列爬取网站图片的教程(1)

本文涉及的产品
云原生内存数据库 Tair,内存型 2GB
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Redis 版,经济版 1GB 1个月
简介: php使用redis异步队列爬取网站图片的教程

相信大家都很想取爬取某些网站的内容,图片,但是不知道怎么动手,以下的教程就是从0开始教大家爬取某个网站图片


准备工作:

curl封装类(需要curl扩展);

php redis扩展(用于使用redis)

redis服务器(用于队列)

QueryList插件:https://querylist.cc/  实现php选择html DOM

运行环境:本文在php-cli模式下运行,不需要考虑超时时间

首先,建立个爬取的目录(Queue)


增加Mycurl.php

<?php

/**

 * Created by PhpStorm.

 * User: tioncico

 * Date: 2018/2/26 0026

 * Time: 21:34

 */

 

namespaceQueue;

 

classMyCurl

{

    privatestatic$url    ''// 访问的url

    privatestatic$oriUrl''// referer url

    privatestatic$data   array(); // 可能发出的数据 post,put

    privatestatic$method// 访问方式,默认是GET请求

 

    publicstaticfunctionsend($url$dataarray(), $method'get')

    {

        if(!$urlexit('url can not be null');

        self::$url    $url;

        self::$method$method;

        $urlArr       parse_url($url);

        self::$oriUrl$urlArr['scheme'] . '://'$urlArr['host'];

        self::$data   $data;

        if(!in_array(

            self::$method,

            array(

                'get',

                'post',

                'put',

                'delete'

            )

        )

        ) {

            exit('error request method type!');

        }

 

        $func= self::$method'Request';

        returnself::$func(self::$url);

    }

 

    /**

     * 基础发起curl请求函数

     * @param int $is_post 是否是post请求

     */

    privatestaticfunctiondoRequest($is_post= 0)

    {

        $ch= curl_init();//初始化curl

        curl_setopt($ch, CURLOPT_URL, self::$url);//抓取指定网页

        curl_setopt($ch, CURLOPT_AUTOREFERER, true);

        // 来源一定要设置成来自本站

        curl_setopt($ch, CURLOPT_REFERER, self::$oriUrl);

 

        curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//要求结果为字符串且输出到屏幕上

        if($is_post== 1) curl_setopt($ch, CURLOPT_POST, $is_post);//post提交方式

        if(!empty(self::$data)) {

            self::$data= self::dealPostData(self::$data);

            curl_setopt($ch, CURLOPT_POSTFIELDS, self::$data);

        }

 

        $data= curl_exec($ch);//运行curl

        curl_close($ch);

        return$data;

    }

 

    /**

     * 发起get请求

     */

    publicstaticfunctiongetRequest()

    {

        returnself::doRequest(0);

    }

 

    /**

     * 发起post请求

     */

    publicstaticfunctionpostRequest()

    {

        returnself::doRequest(1);

    }

 

    /**

     * 处理发起非get请求的传输数据

     *

     * @param array $postData

     */

    publicstaticfunctiondealPostData($postData)

    {

        if(!is_array($postData)) exit('post data should be array');

        foreach($postDataas$k=> $v) {

            $o.= "$k=". urlencode($v) . "&";

        }

        $postDatasubstr($o, 0, -1);

        return$postData;

    }

 

    /**

     * 发起put请求

     */

    publicstaticfunctionputRequest($param)

    {

        returnself::doRequest(2);

    }

 

    /**

     * 发起delete请求

     */

    publicstaticfunctiondeleteRequest($param)

    {

        returnself::doRequest(3);

    }

}

下载图片类Down.php(看完下面的教程再看这个类说明)

<?php

 

/**

 * Created by PhpStorm.

 * User: tioncico

 * Date: 2018/2/28 0028

 * Time: 19:54

 */

namespaceQueue;

useQL\QueryList;

 

classDown

{

    privatestatic$instance;

    publicfunction__construct() {

 

    }

 

    staticfunctiongetInstance(){

        if(is_object(self::$instance)){

            returnself::$instance;

        }else{

            self::$instancenewDown();

            returnself::$instance;

        }

    }

 

    publicstaticfunctionadd_img($str){//这里进来的是详情,每个详情有n页,每页一张高清大图

        $idsubstr($str,strripos($str,'/')+1);//截取出id

        $res   = \Queue\MyCurl::send($strarray('ip'=>'127.0.0.1'), 'get');

//        var_dump($res);

        $rulesarray(

            //采集id为one这个元素里面的纯文本内容

            'page'=> array(

                '.pagenavi span',

                'html'

            ),

        );

        $hj    = QueryList::Query($res$rules);

        $data$hj->getData(function($x) {//总页数

            return$x;

        });

        //获取到了页面元素

        $count$data[count($data)-2]['page'];//这个是获取倒数第2个,倒数第2个是总页数

        echo'共有'.$count."张图\n";

        for($i=1;$i<=$count;$i++){

            $url$str.'/'.$i;

            self::add_img_file($id,$url);//开始保存图片

            echo"{$i}/$count\n";

        }

    }

 

    publicstaticfunctionadd_img_file($id,$url){

        $res   = \Queue\MyCurl::send($urlarray('ip'=>'127.0.0.1','Referer'=>'http://www.mzitu.com/116663/2'), 'get');

        $rulesarray(

            //采集id为one这个元素里面的纯文本内容

            'img_url'=> array(

                '.main-image img',

                'src'

            ),

        );//获取到了高清图片链接

        $hj    = QueryList::Query($res$rules);

        $data$hj->getData(function($x) {//总页数

            return$x;

        });

        $img_url$data[0]['img_url'];

        $path= BASE_DIR.'/img/'.$id.'/';

        @mkdir($path,0777);//新建文件夹存取图片TODO缺少存进数据库

        chmod($path,0777);

        $file_path$path.substr($img_url,strripos($img_url,'/')+1);

//        var_dump($file_path);

        $data= MyCurl::send($img_url);

        $write= @fopen($file_path"w+");

        fwrite($write$data);

        fclose($write);//存取图片

    }

 

}


封装redis.php类

<?php

namespaceQueue;

classRedis

{

    private$con;

    protectedstatic$instance;

    protected$tryConnectTimes= 0;

    protected$maxTryConnectTimes= 3;

    function__construct()

    {

        $this->connect();

    }

    functionconnect(){

        $this->tryConnectTimes++;

        $confarray(

            "HOST"=>'127.0.0.1',

            "PORT"=>6379,

            "AUTH"=>""

        );

        $this->con = new\Redis();

        $this->con->connect($conf['HOST'], $conf['PORT'],2);

        $this->con->auth($conf['AUTH']);

        if(!$this->ping()){

            if($this->tryConnectTimes <= $this->maxTryConnectTimes){

                return$this->connect();

            }else{

                trigger_error("redis connect fail");

                returnnull;

            }

        }

        $this->con->setOption(\Redis::OPT_SERIALIZER,\Redis::SERIALIZER_PHP);

    }

    staticfunctiongetInstance(){

        if(is_object(self::$instance)){

            returnself::$instance;

        }else{

            self::$instancenewRedis();

            returnself::$instance;

        }

    }

    functionrPush($key,$val){

        try{

            return$this->con->rpush($key,$val);

//            return $ret;

        }catch(\Exception $e){

            $this->connect();

            if($this->tryConnectTimes <= $this->maxTryConnectTimes){

                return$this->rPush($key,$val);

            }else{

                returnfalse;

            }

 

        }

 

    }

    functionlPop($key){

        try{

            return$this->con->lPop($key);

        }catch(\Exception $e){

            $this->connect();

            if($this->tryConnectTimes <= $this->maxTryConnectTimes){

                return$this->lPop($key);

            }else{

                returnfalse;

            }

 

        }

    }

    functionlSize($key){

        try{

            $ret$this->con->lSize($key);

            return$ret;

        }catch(\Exception $e){

            $this->connect();

            if($this->tryConnectTimes <= $this->maxTryConnectTimes){

                return$this->lSize($key);

            }else{

                returnfalse;

            }

 

        }

    }

    functiongetRedisConnect(){

        return$this->con;

    }

    functionping(){

        try{

            $ret$this->con->ping();

            if(!empty($ret)){

                $this->tryConnectTimes = 0;

                returntrue;

            }else{

                returnfalse;

            }

        }catch(\Exception $e){

            returnfalse;

        }

    }

 

}

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
5天前
|
数据库
基于PHP+MYSQL开发制作的趣味测试网站源码
基于PHP+MYSQL开发制作的趣味测试网站源码。可在后台提前设置好缘分, 自己手动在数据库里修改数据,数据库里有就会优先查询数据库的信息, 没设置的话第一次查询缘分都是非常好的 95-99,第二次查就比较差 , 所以如果要你女朋友查询你的名字觉得很好 那就得是她第一反应是查和你的缘分, 如果查的是别人,那不好意思,第二个可能是你。
20 3
|
17天前
|
小程序 PHP
全新UI自助图文打印系统小程序源码 PHP后端 附教程
全新UI自助图文打印系统小程序源码 PHP后端 附教程
33 2
|
26天前
|
NoSQL 关系型数据库 MySQL
linux服务器重启php,nginx,redis,mysql命令
linux服务器重启php,nginx,redis,mysql命令
32 1
|
1月前
|
NoSQL Redis
redis集群教程
redis集群教程
|
1月前
|
NoSQL Redis Windows
win10下Redis安装、启动教程
win10下Redis安装、启动教程
24 2
|
1月前
|
PHP
PHP开发的爱情盲盒交友系统网站源码 独立后台
PHP开发的爱情盲盒交友系统网站源码 独立后台
32 4
|
1月前
|
PHP
明星百科大全PHP网站源码
明星百科大全网站源码,国内外明星娱乐音乐、新闻八卦、写真照片、相关影视作品等等的明星百科网站源码。
45 4
|
1月前
|
PHP 数据安全/隐私保护
PHP企业授权管理系统网站源码
PHP企业授权管理系统网站源码 带代理、工单、盗版检测管理等功能
23 2
|
18天前
|
安全 NoSQL Java
网络安全-----Redis12的Java客户端----客户端对比12,Jedis介绍,使用简单安全性不足,lettuce(官方默认)是基于Netty,支持同步,异步和响应式,并且线程是安全的,支持R
网络安全-----Redis12的Java客户端----客户端对比12,Jedis介绍,使用简单安全性不足,lettuce(官方默认)是基于Netty,支持同步,异步和响应式,并且线程是安全的,支持R
|
21天前
|
缓存 前端开发 PHP
【超详细】php实现扫码关注微信公众号系统/网站自动注册登录
【超详细】php实现扫码关注微信公众号系统/网站自动注册登录
21 0