自动化爬取网易云视频,一个是获取网易云视频列表 一个是 获取视频真实播放地址

简介: 自动化爬取网易云视频,一个是获取网易云视频列表 一个是 获取视频真实播放地址
import datetime,logging
import asyncio
from pyppeteer import launch
from lxml import etree
async def getMvPlays(url):
    browser = await launch({'handleSIGINT':False,
'handleSIGTERM': False,
'handleSIGHUP': False,})
    page = await browser.newPage()
    await page.setUserAgent('Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.212 Safari/537.36')
    await page.goto(url)
    frame = page.frames  # 获取所有的iframe
    iframe = frame[1]
    page_text = await iframe.content()
    tree = etree.HTML(page_text)
    mv_list = tree.xpath('//ul[@class="m-mvlist f-cb"]//h4/a/@href')

    await browser.close()
    return mv_list

url = "https://music.163.com/#/search/m/?s=华语&type=1014"
start_time = datetime.datetime.now()
loop = asyncio.new_event_loop()
asyncio.set_event_loop(loop)

task = [asyncio.ensure_future(getMvPlays(url)) for i in range(1)]
# arr = loop.run_until_complete(asyncio.wait(task))
arr = loop.run_until_complete(getMvPlays(url))
mv_arr = []
for i in range(len(arr)):
    temp = {}
    temp["url"] = "https://music.163.com"+arr[i]
    temp["name"] = "wusen"
    temp["mv_img"] = "/static/image/girl.png"
    mv_arr.append(temp)

end_time = datetime.datetime.now()
logging.warning("执行时间:{}".format((end_time - start_time).seconds))

View Code

这里是为了记录一下容易报错的地方

错误一:

loop = asyncio.new_event_loop()
asyncio.set_event_loop(loop)
相关文章
|
Linux 开发工具 数据安全/隐私保护
Centos7:自动化配置vim | suoders信任列表添加普通用户
Centos7:自动化配置vim | suoders信任列表添加普通用户
197 0
|
BI Python
python报表自动化系列 - 获取某月日历并以列表形式返回(公历)
python报表自动化系列 - 获取某月日历并以列表形式返回(公历)
149 1
|
9月前
|
人工智能 自然语言处理 算法
AI智能混剪视频大模型开发方案:从文字到视频的自动化生成·优雅草卓伊凡
AI智能混剪视频大模型开发方案:从文字到视频的自动化生成·优雅草卓伊凡
1038 0
AI智能混剪视频大模型开发方案:从文字到视频的自动化生成·优雅草卓伊凡
|
Web App开发 计算机视觉 开发者
Ruby自动化:用Watir库获取YouTube视频链接
Ruby自动化:用Watir库获取YouTube视频链接
|
监控 数据挖掘 数据安全/隐私保护
Python脚本:自动化下载视频的日志记录
Python脚本:自动化下载视频的日志记录
|
JSON 编解码 搜索推荐
使用Ruby进行视频内容的自动化分析
使用Ruby进行视频内容的自动化分析
|
传感器 存储 数据采集
LabVIEW通过视频识别开发布氏硬度机自动化测量系统
LabVIEW通过视频识别开发布氏硬度机自动化测量系统
126 4
|
存储 Shell 索引
Python 自动化指南(繁琐工作自动化)第二版:四、列表
Python 自动化指南(繁琐工作自动化)第二版:四、列表
175 0
|
数据可视化 Java 测试技术
功能自动化测试工具列表大全
功能自动化测试工具列表大全
308 0