开发者社区> 问答> 正文

各大网站的Python爬取登录汇总—含教程

各大网站的Python爬取登录汇总

收集了一些各大网站登陆方式, 和一些网站的爬虫程序,有的是通过selenium登录,有的是通过抓包直接模拟登录,有的是利用scrapy,希望对小白有所帮助,本项目用于研究和分享各大网站的模拟登陆方式,和爬虫程序。

模拟登陆基本采用的是直接登录或者使用selenium+webdriver的方式,有的网站直接登录难度很大,比如qq空间,bilibili等如果采用selenium就相对轻松一些。

虽然在登录的时候采用的是selenium,为了效率,我们可以在登录过后得到的cookie维护起来,然后调用requests或者scrapy等进行数据采集,这样数据采集的速度可以得到保证。

目前已完成网站:

Facebook
微博网页版
知乎
QQZone
CSDN
淘宝-接口修复完成-可用
CSDN--已重构
Baidu
果壳
JingDong 模拟登录和自动申请京东试用
163mail
拉钩
Bilibili
豆瓣
豆瓣spider
Baidu
猎聘网
微信网页版登录并获取好友列表
Github
爬取图虫相应的图片
网易云音乐
糗事百科--改为协程版
百度贴吧spider
百度翻译

项目地址

爬虫教程

技术交流群

加入阿里云钉钉群享福利:每周技术直播,定期群内有奖活动、大咖问答

image

展开
收起
珍宝珠 2020-01-13 11:06:42 5081 0
1 条回答
写回答
取消 提交回答
  • 感谢大佬的教程。与有去学习下

    2020-01-13 14:18:27
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
From Python Scikit-Learn to Sc 立即下载
Data Pre-Processing in Python: 立即下载
双剑合璧-Python和大数据计算平台的结合 立即下载