如何解决URLerror中的异常?原来这样也行

简介: 前言我们每次编写爬虫程序的时候,总会遇到一些异常,相信大家都很头疼的去百度,却没什么效果,本节为你们介绍两个普通的异常,,,,,URLError还有HTTPError,以及对它们的一些处理。1.URLError首先解释下URLError可能产生的原因:· 网络无连接,即本机无法上网· 连接不到特定的服务器· 服务器不存在在代码中,我们需要用try-except语句来包围并捕获相应的异常。

前言

我们每次编写爬虫程序的时候,总会遇到一些异常,相信大家都很头疼的去百度,却没什么效果,本节为你们介绍两个普通的异常,,,,,URLError还有HTTPError,以及对它们的一些处理。

1.URLError

首先解释下URLError可能产生的原因:

· 网络无连接,即本机无法上网

· 连接不到特定的服务器

· 服务器不存在

在代码中,我们需要用try-except语句来包围并捕获相应的异常。下面是一个例子,先感受下它的风骚之气

import urllib2

requset = urllib2.Request('http://www.zhimaruanjian.com')

try:

    urllib2.urlopen(requset)

except urllib2.URLError, e:

    print e.reason

我们利用了 urlopen方法访问了一个不存在的网址,运行结果如下:


[Errno 11004] getaddrinfo failed```

它说明了错误代号是11004,错误原因是 getaddrinfo failed

![](https://yqfile.alicdn.com/4d3bd45ea6b9250ff772754973e5a783c4589f6a.png)
>**
小编推荐一个学python的学习qun 740322234
无论你是大牛还是小白,是想转行还是想入行都可以来了解一起进步一起学习!裙内有开发工具,很多干货和技术资料分享!**


**2.HTTPError**

HTTPError是URLError的子类,在你利用urlopen方法发出一个请求时,服务器上都会对应一个应答对象response,其中它包含一个数字”状态码”。举个例子,假如response是一个”重定向”,需定位到别的地址获取文档,urllib2将对此进行处理。

其他不能处理的,urlopen会产生一个HTTPError,对应相应的状态吗,HTTP状态码表示HTTP协议所返回的响应的状态。下面将状态码归结如下:  

100:继续 客户端应当继续发送请求。客户端应当继续发送请求的剩余部分,或者如果请求已经完成,忽略这个响应。

101: 转换协议 在发送完这个响应最后的空行后,服务器将会切换到在Upgrade 消息头中定义的那些协议。只有在切换新的协议更有好处的时候才应该采取类似措施。

102:继续处理 由WebDAV(RFC 2518)扩展的状态码,代表处理将被继续执行。

200:请求成功 处理方式:获得响应的内容,进行处理

201:请求完成,结果是创建了新资源。新创建资源的URI可在响应的实体中得到 处理方式:爬虫中不会遇到

202:请求被接受,但处理尚未完成 处理方式:阻塞等待

204:服务器端已经实现了请求,但是没有返回新的信 息。如果客户是用户代理,则无须为此更新自身的文档视图。 处理方式:丢弃

300:该状态码不被HTTP/1.0的应用程序直接使用, 只是作为3XX类型回应的默认解释。存在多个可用的被请求资源。 处理方式:若程序中能够处理,则进行进一步处理,如果程序中不能处理,则丢弃
301:请求到的资源都会分配一个永久的URL,这样就可以在将来通过该URL来访问此资源 处理方式:重定向到分配的URL

302:请求到的资源在一个不同的URL处临时保存 处理方式:重定向到临时的URL

304:请求的资源未更新 处理方式:丢弃

400:非法请求 处理方式:丢弃

401:未授权 处理方式:丢弃

403:禁止 处理方式:丢弃

404:没有找到 处理方式:丢弃

500:服务器内部错误 服务器遇到了一个未曾预料的状况,导致了它无法完成对请求的处理。一般来说,这个问题都会在服务器端的源代码出现错误时出现。

501:服务器无法识别 服务器不支持当前请求所需要的某个功能。当服务器无法识别请求的方法,并且无法支持其对任何资源的请求。

502:错误网关 作为网关或者代理工作的服务器尝试执行请求时,从上游服务器接收到无效的响应。

503:服务出错 由于临时的服务器维护或者过载,服务器当前无法处理请求。这个状况是临时的,并且将在一段时间以后恢复。

HTTPError实例产生后会有一个code属性,这就是是服务器发送的相关错误号。
因为urllib2可以为你处理重定向,也就是3开头的代号可以被处理,并且100-299范围的号码指示成功,所以你只能看到400-599的错误号码。

下面我们写一个例子来感受一下,捕获的异常是HTTPError,它会带有一个code属性,就是错误代号,另外我们又打印了reason属性,这是它的父类URLError的属性。

import urllib2

req = urllib2.Request('http://www.zhimaruanjian.com')

try:

urllib2.urlopen(req)

except urllib2.HTTPError, e:

print e.code

print e.reason```

运行结果如下


403

Forbidden```

错误代号是403,错误原因是Forbidden,说明服务器禁止访问。

我们知道,HTTPError的父类是URLError,根据编程经验,父类的异常应当写到子类异常的后面,如果子类捕获不到,那么可以捕获父类的异常,所以上述的代码可以这么改写

import urllib2

req = urllib2.Request('http://www.zhimaruanjian.com')

try:

urllib2.urlopen(req)

except urllib2.HTTPError, e:

print e.code

except urllib2.URLError, e:

print e.reason

else:

print "OK"```

如果捕获到了HTTPError,则输出code,不会再处理URLError异常。如果发生的不是HTTPError,则会去捕获URLError异常,输出错误原因。

另外还可以加入 hasattr属性提前对属性进行判断,代码改写如下


import urllib2

 

req = urllib2.Request('http://www.zhimaruanjian.com')

try:

    urllib2.urlopen(req)

except urllib2.URLError, e:

    if hasattr(e,"code"):

        print e.code

    if hasattr(e,"reason"):

        print e.reason

else:

    print "OK"```

首先对异常的属性进行判断,以免出现属性输出报错的现象。
相关文章
|
6月前
|
Java 编译器 程序员
【JavaSE专栏67】谈谈异常的那些事,学会预判异常、捕获异常、转移异常
【JavaSE专栏67】谈谈异常的那些事,学会预判异常、捕获异常、转移异常
【JavaSE专栏67】谈谈异常的那些事,学会预判异常、捕获异常、转移异常
|
15天前
|
前端开发 程序员
项目中异常是如何处理的
项目中设定了全局异常处理器,统一处理预期和运行时异常。预期异常由程序员手动抛出,用于异常情况的接口返回;运行时异常为不可控错误,提供统一返回格式便于前端提示和后端排查。全局异常处理器借助@RestControllerAdvice和@ExceptionHandler注解,前者标识处理器,后者按异常类型定制前端响应,如预期异常直接返回,运行时异常则调整响应内容。
13 0
|
1月前
|
C++
C++处理的异常的机制
C++处理的异常的机制
|
8月前
|
C语言 C++
【C++】异常的使用和细节
【C++】异常的使用和细节
42 0
|
安全 Java
Java开发过程中 异常及日常如何规避
Java开发过程中 异常及日常如何规避
你真的明白关于迭代器的方法、使用异常、并发修改异常介绍嘛?
关于迭代器的方法、使用异常、并发修改异常介绍的使用
101 0
你真的明白关于迭代器的方法、使用异常、并发修改异常介绍嘛?
|
测试技术
软件测试面试题:当一个接口出现异常时候,你是如何分析异常的?
软件测试面试题:当一个接口出现异常时候,你是如何分析异常的?
238 0
这一篇让你知道怎么处理异常
这一篇让你知道怎么处理异常
这一篇让你知道怎么处理异常
|
Dubbo 前端开发 Java
谈谈异常
谈谈异常
149 0
谈谈异常
|
Java 编译器 开发者
一文了解java异常机制
一文了解java异常机制1.异常的概述1.1什么是异常?异常:程序在运行过程中发生由于外部问题导致的程序异常事件,发生的异常会中断程序的运行。(在Java等面向对象的编程语言中)异常本身是一个对象,产生异常就是产生了一个异常对象。
5326 0

热门文章

最新文章