Python chardet 字符编码判断

简介:

使 用 chardet 可以很方便的实现字符串/文件的编码检测。尤其是中文网页,有的页面使用GBK/GB2312,有的使用UTF8,如果你需要去爬一些页面,知道网页编码 很重要的,虽然HTML页面有charset标签,但是有些时候是不对的。那么chardet就能帮我们大忙了。

chardet实例

	>>> import urllib
>>> rawdata = urllib.urlopen('http://www.google.cn/').read()
>>> import chardet
>>> chardet.detect(rawdata)
{'confidence': 0.98999999999999999, 'encoding': 'GB2312'}
>>>

chardet可以直接用detect函数来检测所给字符的编码。函数返回值为字典,有2个元数,一个是检测的可信度,另外一个就是检测到的编码。

chardet 安装

下载chardet后,解压chardet压缩包,直接将chardet文件夹放在应用程序目录下,就可以使用import chardet开始使用chardet了。

或者使用setup.py安装文件,将chardet拷贝到Python系统目录下,这样你所有的python程序只要用import chardet就可以了。

	python setup.py install

参考













本文转hackfreer51CTO博客,原文链接: http://blog.51cto.com/pnig0s1992/496208 ,如需转载请自行联系原作者
相关文章
C4.
|
1月前
|
存储 Python
Python字符编码
Python字符编码
C4.
17 1
|
1月前
|
Python
python 二进制与字符编码详解
python 二进制与字符编码详解
17 0
|
1月前
|
存储 编解码 Python
Python中怎么处理字符编码问题
Python中怎么处理字符编码问题
18 0
|
8月前
|
自然语言处理 Java 程序员
Python中的字符串与字符编码2
Hello,这里是Token_w的博客,欢迎您的到来 今天文章讲解的是Python中的字符串与字符编码,其中有基础的理论知识讲解,也有实战中的应用讲解,希望对你有所帮助 整理不易,如对你有所帮助,希望能得到你的点赞、收藏支持。感谢
41 1
|
8月前
|
存储 Java PHP
Python中的字符串与字符编码1
Hello,这里是Token_w的博客,欢迎您的到来 今天文章讲解的是Python中的字符串与字符编码,其中有基础的理论知识讲解,也有实战中的应用讲解,希望对你有所帮助 整理不易,如对你有所帮助,希望能得到你的点赞、收藏支持。感谢
31 1
|
10月前
python--运算符,字符编码
python--运算符,字符编码
|
JSON PHP 数据格式
【python】or【php】网页中字符编码转换,将反斜杠u \u字符串转为unicode/utf8
【python】or【php】网页中字符编码转换,将反斜杠u \u字符串转为unicode/utf8
112 0
|
存储 Java 程序员
PYTHON 字符编码
PYTHON 字符编码
128 0
|
测试技术 Python
Python 对服务器返回数据编码进行判断之chardet
Python 对服务器返回数据编码进行判断之chardet
70 0
|
机器学习/深度学习 人工智能 自然语言处理
[oeasy]python0129_unicode_中文字符序号_十三道大辙_字符编码解码_eval_火星文
[oeasy]python0129_unicode_中文字符序号_十三道大辙_字符编码解码_eval_火星文
112 0
[oeasy]python0129_unicode_中文字符序号_十三道大辙_字符编码解码_eval_火星文