14、web爬虫讲解2—Scrapy框架爬虫—豆瓣登录与利用打码接口实现自动识别验证码

简介: 打码接口文件 # -*- coding: cp936 -*- import sys import os from ctypes import * # 下载接口放目录 http://www.

打码接口文件

# -*- coding: cp936 -*-

import sys
import os
from ctypes import *

# 下载接口放目录 http://www.yundama.com/apidoc/YDM_SDK.html
# 错误代码请查询 http://www.yundama.com/apidoc/YDM_ErrorCode.html
# 所有函数请查询 http://www.yundama.com/apidoc

print('>>>正在初始化...')

YDMApi = windll.LoadLibrary('H:/py/16/adc/adc/yamzhm/yundamaAPI-x64')

# 1. http://www.yundama.com/index/reg/developer 注册开发者账号
# 2. http://www.yundama.com/developer/myapp 添加新软件
# 3. 使用添加的软件ID和密钥进行开发,享受丰厚分成

appId = 3818   # 软件ID,开发者分成必要参数。登录开发者后台【我的软件】获得!
appKey = b'6ff56e09e89fffe45c14abe624af9456'     # 软件密钥,开发者分成必要参数。登录开发者后台【我的软件】获得!

# print('软件ID:%d\r\n软件密钥:%s' % (appId, appKey))

# 注意这里是普通会员账号,不是开发者账号,注册地址 http://www.yundama.com/index/reg/user
# 开发者可以联系客服领取免费调试题分

username = b'adc8868'
password = b'adc279819'

if username == b'test':
    exit('\r\n>>>请先设置用户名密码')
    
####################### 一键识别函数 YDM_EasyDecodeByPath #######################

# print('\r\n>>>正在一键识别...')
#
# # 例:1004表示4位字母数字,不同类型收费不同。请准确填写,否则影响识别率。在此查询所有类型 http://www.yundama.com/price.html
# codetype = 1004
#
# # 分配30个字节存放识别结果
# result = c_char_p(b"                              ")
#
# # 识别超时时间 单位:秒
# timeout = 60
#
# # 验证码文件路径
# filename = b'H:/py/16/adc/adc/yamzhm/yan_zhe_nma.jpg'
#
# # 一键识别函数,无需调用 YDM_SetAppInfo 和 YDM_Login,适合脚本调用
# captchaId = YDMApi.YDM_EasyDecodeByPath(username, password, appId, appKey, filename, codetype, timeout, result)
#
# print("一键识别:验证码ID:%d,识别结果:%s" % (captchaId, result.value))

################################################################################


########################## 普通识别函数 YDM_DecodeByPath #########################



# print('\r\n>>>正在登陆...')

# 第一步:初始化云打码,只需调用一次即可
YDMApi.YDM_SetAppInfo(appId, appKey)

# 第二步:登陆云打码账号,只需调用一次即可
uid = YDMApi.YDM_Login(username, password)

if uid > 0:

    # print('>>>正在获取余额...')
    
    # 查询账号余额,按需要调用
    balance = YDMApi.YDM_GetBalance(username, password)

    print('登陆成功,用户名:%s,剩余题分:%d' % (username, balance))

    print('\r\n>>>正在普通识别...')

    # 第三步:开始识别

    # 例:1004表示4位字母数字,不同类型收费不同。请准确填写,否则影响识别率。在此查询所有类型 http://www.yundama.com/price.html
    codetype = 3000

    # 分配30个字节存放识别结果
    result = c_char_p(b"                              ")

    # 验证码文件路径
    filename = b'H:/py/16/adc/adc/yamzhm/yan_zhe_nma.jpg'

    # 普通识别函数,需先调用 YDM_SetAppInfo 和 YDM_Login 初始化
    captchaId = YDMApi.YDM_DecodeByPath(filename, codetype, result)

    print("普通识别:验证码ID:%d,识别结果:%s" % (captchaId, result.value))

else:
    print('登陆失败,错误代码:%d' % uid)

################################################################################

# print('\r\n>>>错误代码请查询 http://www.yundama.com/apidoc/YDM_ErrorCode.html')

# input('\r\n测试完成,按回车键结束...')

实现文件

# -*- coding: utf-8 -*-
import os
from urllib import request                     #导入request模块

import scrapy
from scrapy.http import Request,FormRequest


class PachSpider(scrapy.Spider):                            #定义爬虫类,必须继承scrapy.Spider
    name = 'pach'                                           #设置爬虫名称
    allowed_domains = ['douban.com']                    #爬取域名
    # start_urls = ['']                                     #爬取网址,只适于不需要登录的请求,因为没法设置cookie等信息

    header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:54.0) Gecko/20100101 Firefox/54.0'}  #设置浏览器用户代理

    def start_requests(self):
        """第一次请求一下登录页面,设置开启cookie使其得到cookie,设置回调函数"""
        print("第一次请求页面获取Cookies.........!")
        return [Request('https://accounts.douban.com/login',meta={'cookiejar':1},callback=self.parse,headers=self.header)]


    def parse(self, response):
        # 响应Cookies
        Cookie1 = response.headers.getlist('Set-Cookie')                            #查看一下响应Cookie,也就是第一次访问注册页面时后台写入浏览器的Cookie
        print('后台首次写入的响应Cookies:',Cookie1)

        #判断是否出现验证码
        yzhm = response.xpath('//img[@id="captcha_image"]/@src').extract()
        if len(yzhm) > 0:
            print("出现验证码,请输入验证码")
            print('验证码图片地址:',yzhm)
            #将验证码图片保存到本地
            file_path = os.path.join(os.getcwd() + '/adc/yamzhm/yan_zhe_nma.jpg')   # 拼接图片保存路径
            print(file_path)
            request.urlretrieve(yzhm[0], file_path)                             # 将图片保存到本地,参数1获取到的src,参数2保存路径

            #使用在线打码,自动识别验证码
            from adc.yamzhm import YDMPython3                                   #导入打码模块
            yan_zhen_ma = str(YDMPython3.result.value,encoding='utf-8')         #接收打码结果
            print('写入验证码',yan_zhen_ma)

            data = {                                                            # 设置用户登录信息,对应抓包得到字段
                'source': 'None',
                'redir': 'https://www.douban.com/people/81309370/',
                'form_email': '729088188@qq.com',
                'form_password': 'adc279819',
                'login': '登录',
                'captcha-solution': yan_zhen_ma
            }

            print('第二次post请求携带Cookies授权,登录中........!')

            """第二次用表单post请求,携带Cookie、浏览器代理、用户登录信息,进行登录给Cookie授权"""
            return [FormRequest.from_response(response,
                                              url='https://accounts.douban.com/login',                        #真实post地址
                                              meta={'cookiejar':response.meta['cookiejar']},
                                              headers=self.header,
                                              formdata=data,
                                              callback=self.next,
                                              )]
        else:
            data = {  # 设置用户登录信息,对应抓包得到字段
                'source': 'None',
                'redir': 'https://www.douban.com/people/81309370/',
                'form_email': '729088188@qq.com',
                'form_password': 'adc279819',
                'login': '登录',
            }

            print('第二次post请求携带Cookies授权,登录中........!')

            """第二次用表单post请求,携带Cookie、浏览器代理、用户登录信息,进行登录给Cookie授权"""
            return [FormRequest.from_response(response,
                                              url='https://accounts.douban.com/login',  # 真实post地址
                                              meta={'cookiejar': response.meta['cookiejar']},
                                              headers=self.header,
                                              formdata=data,
                                              callback=self.next,
                                              )]



    def next(self,response):
        # 请求Cookie
        Cookie2 = response.request.headers.getlist('Cookie')
        print('登录时携带请求的Cookies:',Cookie2)

        dlujieg = response.xpath('/html/head/title/text()').extract()
        if dlujieg:
            print('登录响应结果:',dlujieg)
        else:
            jieg = response.body.decode("utf-8")   #登录后可以查看一下登录响应信息
            print('登录响应结果:',jieg)

        print('第三次请求携带授权Cookie,请求需要登录才能查看的页面.........!')
        yield Request('https://www.douban.com/people/81309370/',meta={'cookiejar':True},headers=self.header,callback=self.next2)


    def next2(self,response):
        # 请求Cookie
        Cookie3 = response.request.headers.getlist('Cookie')
        print('查看需要登录才可以访问的页面携带Cookies:',Cookie3)

        leir = response.xpath('/html/head/title/text()').extract()  #得到个人中心页面
        print('最终内容',leir)
        # leir2 = response.xpath('//div[@class="set-tags"]/a/text()').extract()  # 得到个人中心页面
        # print(leir2)

【转载自:http://www.lqkweb.com

相关文章
|
数据采集 存储 数据可视化
分布式爬虫框架Scrapy-Redis实战指南
本文介绍如何使用Scrapy-Redis构建分布式爬虫系统,采集携程平台上热门城市的酒店价格与评价信息。通过代理IP、Cookie和User-Agent设置规避反爬策略,实现高效数据抓取。结合价格动态趋势分析,助力酒店业优化市场策略、提升服务质量。技术架构涵盖Scrapy-Redis核心调度、代理中间件及数据解析存储,提供完整的技术路线图与代码示例。
1910 0
分布式爬虫框架Scrapy-Redis实战指南
|
数据采集 前端开发 JavaScript
Scrapy结合Selenium实现搜索点击爬虫的最佳实践
Scrapy结合Selenium实现搜索点击爬虫的最佳实践
|
数据采集 存储 JSON
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第27天】本文介绍了Python网络爬虫Scrapy框架的实战应用与技巧。首先讲解了如何创建Scrapy项目、定义爬虫、处理JSON响应、设置User-Agent和代理,以及存储爬取的数据。通过具体示例,帮助读者掌握Scrapy的核心功能和使用方法,提升数据采集效率。
712 6
|
数据采集 存储 监控
Scrapy框架下地图爬虫的进度监控与优化策略
Scrapy框架下地图爬虫的进度监控与优化策略
|
缓存 Java 应用服务中间件
java语言后台管理若依框架-登录提示404-接口异常-系统接口404异常如何处理-登录验证码不显示prod-api/captchaImage 404 (Not Found) 如何处理-解决方案优雅草卓伊凡
java语言后台管理若依框架-登录提示404-接口异常-系统接口404异常如何处理-登录验证码不显示prod-api/captchaImage 404 (Not Found) 如何处理-解决方案优雅草卓伊凡
5094 5
|
数据采集 中间件 API
在Scrapy爬虫中应用Crawlera进行反爬虫策略
在Scrapy爬虫中应用Crawlera进行反爬虫策略
|
9月前
|
算法 Java Go
【GoGin】(1)上手Go Gin 基于Go语言开发的Web框架,本文介绍了各种路由的配置信息;包含各场景下请求参数的基本传入接收
gin 框架中采用的路优酷是基于httprouter做的是一个高性能的 HTTP 请求路由器,适用于 Go 语言。它的设计目标是提供高效的路由匹配和低内存占用,特别适合需要高性能和简单路由的应用场景。
628 4
|
缓存 JavaScript 前端开发
鸿蒙5开发宝藏案例分享---Web开发优化案例分享
本文深入解读鸿蒙官方文档中的 `ArkWeb` 性能优化技巧,从预启动进程到预渲染,涵盖预下载、预连接、预取POST等八大优化策略。通过代码示例详解如何提升Web页面加载速度,助你打造流畅的HarmonyOS应用体验。内容实用,按需选用,让H5页面快到飞起!
|
JavaScript 前端开发 API
鸿蒙5开发宝藏案例分享---Web加载时延优化解析
本文深入解析了鸿蒙开发中Web加载完成时延的优化技巧,结合官方案例与实际代码,助你提升性能。核心内容包括:使用DevEco Profiler和DevTools定位瓶颈、四大优化方向(资源合并、接口预取、图片懒加载、任务拆解)及高频手段总结。同时提供性能优化黄金准则,如首屏资源控制在300KB内、关键接口响应≤200ms等,帮助开发者实现丝般流畅体验。
|
前端开发 JavaScript Shell
鸿蒙5开发宝藏案例分享---Web页面内点击响应时延分析
本文为鸿蒙开发者整理了Web性能优化的实战案例解析,结合官方文档深度扩展。内容涵盖点击响应时延核心指标(≤100ms)、性能分析工具链(如DevTools时间线、ArkUI Trace抓取)以及高频优化场景,包括递归函数优化、网络请求阻塞解决方案和setTimeout滥用问题等。同时提供进阶技巧,如首帧加速、透明动画陷阱规避及Web组件初始化加速,并通过优化前后Trace对比展示成果。最后总结了快速定位问题的方法与开发建议,助力开发者提升Web应用性能。