接上文 selenium的常见表单元素操作(一)https://developer.aliyun.com/article/1617955
Cookie操作
1、获取所有的cookie
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 6:57 PM
# 文件 :selenium操作cookie.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = 'https://www.baidu.com/'
# 访问url
driver.get(url)
for cookie in driver.get_cookies():
print(cookie)
driver.close()
程序运行结果如下:
{
'domain': '.baidu.com', 'expiry': 1675940497, 'httpOnly': False, 'name': 'BAIDUID_BFESS', 'path': '/', 'sameSite': 'None', 'secure': True, 'value': '058DB780F413036AE207FA5D5DBDFD0D:FG=1'}
{
'domain': '.baidu.com', 'expiry': 1644408097, 'httpOnly': False, 'name': 'BA_HECTOR', 'path': '/', 'secure': False, 'value': 'ac81212k8l8180e5ug1h077oi0q'}
{
'domain': '.baidu.com', 'httpOnly': False, 'name': 'H_PS_PSSID', 'path': '/', 'secure': False, 'value': '35414_35104_31254_35488_34584_35491_35796_35316_26350_35765_35745'}
{
'domain': '.baidu.com', 'expiry': 1675940496, 'httpOnly': False, 'name': 'BAIDUID', 'path': '/', 'secure': False, 'value': '058DB780F413036AE207FA5D5DBDFD0D:FG=1'}
{
'domain': '.baidu.com', 'expiry': 3791888143, 'httpOnly': False, 'name': 'BIDUPSID', 'path': '/', 'secure': False, 'value': '058DB780F413036A0DFEEB9DEAF54433'}
{
'domain': '.baidu.com', 'expiry': 3791888143, 'httpOnly': False, 'name': 'PSTM', 'path': '/', 'secure': False, 'value': '1644404497'}
{
'domain': 'www.baidu.com', 'expiry': 1645268497, 'httpOnly': False, 'name': 'BD_UPN', 'path': '/', 'secure': False, 'value': '123253'}
{
'domain': 'www.baidu.com', 'httpOnly': False, 'name': 'BD_HOME', 'path': '/', 'secure': False, 'value': '1'}
Process finished with exit code 0
2、根据cookie的key获取cookie的value,示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 6:57 PM
# 文件 :selenium操作cookie.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = 'https://www.baidu.com/'
# 访问url
driver.get(url)
# 通过某个key获取cookie的value
print(driver.get_cookie('PSTM'))
driver.close()
程序运行结果如下:
{
'domain': '.baidu.com', 'expiry': 3791888742, 'httpOnly': False, 'name': 'PSTM', 'path': '/', 'secure': False, 'value': '1644405096'}
Process finished with exit code 0
3、删除所有的cookies,示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 6:57 PM
# 文件 :selenium操作cookie.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = 'https://www.baidu.com/'
# 访问url
driver.get(url)
# 删除所有cookies
driver.delete_all_cookies()
程序运行结果如下:
4、删除某个cookie,示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 6:57 PM
# 文件 :selenium操作cookie.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = 'https://www.baidu.com/'
# 访问url
driver.get(url)
for cookie in driver.get_cookies():
print(cookie)
# driver.close()
# 根据cookie的key获取cookie值
# print(driver.get_cookie('PSTM'))
# 删除指定的cookie
driver.delete_cookie('PSTM')
print(driver.get_cookie('PSTM'))
程序运行结果如下:
{
'domain': '.baidu.com', 'expiry': 1644409502, 'httpOnly': False, 'name': 'BA_HECTOR', 'path': '/', 'secure': False, 'value': '2s04ag8l0g252g6k6o1h0794f0q'}
{
'domain': '.baidu.com', 'httpOnly': False, 'name': 'H_PS_PSSID', 'path': '/', 'secure': False, 'value': '35105_31253_34584_35490_35246_35796_35315_26350_35724_35765_35746'}
{
'domain': '.baidu.com', 'expiry': 1675941902, 'httpOnly': False, 'name': 'BAIDUID', 'path': '/', 'secure': False, 'value': 'ACFC052478761063262775E7A2DE4C5F:FG=1'}
{
'domain': '.baidu.com', 'expiry': 3791889549, 'httpOnly': False, 'name': 'BIDUPSID', 'path': '/', 'secure': False, 'value': 'ACFC052478761063DE9BEFA0F014E38F'}
# 没删除之前是存在的
{
'domain': '.baidu.com', 'expiry': 3791889549, 'httpOnly': False, 'name': 'PSTM', 'path': '/', 'secure': False, 'value': '1644405902'}
{
'domain': 'www.baidu.com', 'expiry': 1645269902, 'httpOnly': False, 'name': 'BD_UPN', 'path': '/', 'secure': False, 'value': '123253'}
{
'domain': 'www.baidu.com', 'httpOnly': False, 'name': 'BD_HOME', 'path': '/', 'secure': False, 'value': '1'}
# 删除之后,返回结果None
None
Process finished with exit code 0
页面等待
现在网页很多采用了Ajax技术,这样程序便不能确定何时某个元素完全加载出来了。如果实际页面等待时间过长导致某个dom元素还没加载,但是你的代码直接使用了这个WebElement,那么会报错NullPointer的异常。为了解决这个问题,selenium提供了两种等待方式:隐式等待,显示等待。
1.隐式等待:调用driver.implicitly_wait,那么在获取任何元素之前,会先等待10秒时间。示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 8:25 PM
# 文件 :隐式等待.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = ''
driver.get(url)
# 隐式等待10秒
driver.implicitly_wait(10)
# 随意指定一个id值
driver.find_element_by_id('dfsfasdfasfasfsfdsafds')
2.显式等待:显式等待是表明某个条件成立后才执行获取元素的操作。也可以在等待的时候指定一个最大的时间,如果超过这个时间那么就报异常错误。显式等待应该使用selenium.webdriver.support.excepted_conditions期望的条件和selenium.webdriver.support.ui.WebDriverWait来配合完成。示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 8:30 PM
# 文件 :显式等待.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
from selenium.webdriver.common.by import By
# 导入显式等待模块
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
headers = {
'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36',
'cookie':'uuid_tt_dd=10_20562014200-1642230088053-480005; __gads=ID=6d32e6ec1ea72d65-225f830cd5cf00dc:T=1642230106:RT=1642230106:S=ALNI_MZjtH_S6lcshDmkkDY4DQKIA1Ateg; ssxmod_itna=QqAxyD0DRD9G9ixl+D+rFOep8GfDc0AWOYPhx0HAeiODUxn4iaDToPTDGq+mR4YeSQm3BDQeYGYPGCijnRbiVb1YP5QbDneG0DQKGmzxGUFD7w+e2p=qDPDbxYPDGQqDbDY8tGwDY5HDGqDnDY=XD7Ug7AmWFMjgeudDCgmpli+zWi5oDOpxfi5IW8D=0DeI7i5K+A+zWc4qeowjSEFDGSTQ2iD=; ssxmod_itna2=QqAxyD0DRD9G9ixl+D+rFOep8GfDc0AWOYPxnK3xqqDsqDBQDjbPxx=MdidGYnBa2KYHl+iq7KwCb8uGrDgeC7owaD4m0DHDa7dIL3soD+I+02APk8wU977qxT8zGTNw63Xu1Mf=8QGDStRKPzTE+Df0p/+vBjRQszRPoMqf248fp03YujRGGUWjhzlUEIjrfAC2fzOYpG3dF1RfOaGDWD7jgD7=DeqxxD==; UserName=weixin_41905135; UserInfo=5d63720898c541cfa30ae44e4525ef44; UserToken=5d63720898c541cfa30ae44e4525ef44; UserNick=Bruce_Liuxiaowei; AU=E1F; UN=weixin_41905135; BT=1642230175210; p_uid=U110000; Hm_up_6bcd52f51e9b3dce32bec4a3997715ac={"islogin":{"value":"1","scope":1},"isonline":{"value":"1","scope":1},"isvip":{"value":"1","scope":1},"uid_":{"value":"weixin_41905135","scope":1}}; Hm_ct_6bcd52f51e9b3dce32bec4a3997715ac=6525*1*10_20562014200-1642230088053-480005!5744*1*weixin_41905135; c_dl_prid=1643325931307_582254; c_dl_rid=1644247742278_429472; c_dl_fref=; c_dl_fpage=/download/weixin_38701952/12853345; c_dl_um=distribute.pc_search_result.none-task-blog-2~all~sobaiduweb~default-0-82924296.first_rank_v2_pc_rank_v29; dc_session_id=10_1644408299161.775025; dc_sid=8287d83a7595ae0d8779cb4fcedbe31a; csrfToken=Lb84yS2_Mi8haar-7oGjC4bZ; c_first_ref=default; c_first_page=; c_segment=5; Hm_lvt_6bcd52f51e9b3dce32bec4a3997715ac=1644373995,1644395322,1644401531,1644409224; c_page_id=default; log_Id_click=364; c_pref=; c_ref=; dc_tos=r71fd2; log_Id_pv=444; Hm_lpvt_6bcd52f51e9b3dce32bec4a3997715ac=1644410632; log_Id_view=722'
}
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建driver
driver = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = ''
driver.get(url)
try:
element = WebDriverWait(driver, 10).until(EC.presence_of_element_located((By.ID, 'sousuo')) # 参数以元组形式传入
)
finally:
driver.quit()
3、一些其他等待条件
presence_of_element_located:某个元素已经加载完毕
presence_of_all_element_located:网页中所有满足条件的元素加载完毕
element_to_be_cliable:某个元素可以点击了
切换页面
有时候窗口中有很多子tab页面。这时候需要切换页面的。selenium提供了一个叫做switch_to_window来进行切换,具体切换到哪个页面,可以从driver.window_handles中找到。示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/9/22 9:57 PM
# 文件 :切换页面.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 指定url
url1 = 'https://www.douban.com/'
url2 = 'https://www.baidu.com/'
driver = webdriver.Chrome(executable_path=execute_path)
driver.get(url1)
driver.execute_script("window.open('https://www.baidu.com/')")
程序运行结果如下图:
切换到指定窗口,代码如下:
# 从driver.window_handlers中取出具体的窗口,driver.window_handlers是一个列表,里面是窗口句柄
# 此案例只打开两个窗口,所以handles列表取‘1’
driver.switch_to_window(driver.window_handles[1])
设置代理ip
爬取网页的时候为避免被封掉ip地址,我们就会需要代理ip,随时更换ip地址。不同的浏览器有不同的实现方式,本文以Chrome浏览器为例。示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/10/22 9:57 AM
# 文件 :设置代理ip.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
# chromedriver路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
options = webdriver.ChromeOptions()
options.add_argument("--proxy-server=http://218.75.69.50:57903")
driver = webdriver.Chrome(executable_path=execute_path, chrome_options=options)
driver.get('http://httpbin.org/ip')
程序运行结果如下图:
WebElement元素
从网页中获取网页元素,from selenium.webdriver.remote.webelement import WebElement 类是每个获取的元素的所属类。一些常用的属性如下:
1、get_attribute:获取标签某个属性值
2、screenshot:获取当前页面的截图,并保存为png格式,此方法只能在driver上使用。
示例代码如下:
#_*_coding:utf-8_*_
# 作者 :liuxiaowei
# 创建时间 :2/10/22 10:28 AM
# 文件 :获取网页元素.py
# IDE :PyCharm
# 导入模块
from selenium import webdriver
from selenium.webdriver.remote.webelement import WebElement
# 指定浏览器驱动的路径
execute_path = '../使用selenium爬取动态加载的信息/chromedriver'
# 创建浏览器驱动
brower = webdriver.Chrome(executable_path=execute_path)
# 指定url
url = 'http://www.baidu.com/'
# 打开网页
brower.get(url)
# 找到搜索按钮"百度一下"
baidu_Btn = brower.find_element_by_id('su')
print(type(baidu_Btn))
# 获取按钮属性value的值
print(baidu_Btn.get_attribute('value'))
# 保存网页截图
brower.save_screenshot('baidu.png')
运行结果如下: