SR方式挖掘豆瓣热点

简介:

郑昀@玩聚SR 20090430

无意中看到M Jia在《豆瓣好友热点 v0.2.3》中提及:

“以前很喜欢看Techmeme/Digg这样的聚合/社区工具,现在超级喜欢Hacker News和Reddit Programming,简洁又超级有活力(虽然我不太能参乎进去,呵呵),如果能够使用玩聚SR的方式来作豆瓣上的“物”并加上豆瓣原来就有的社区,可以非常简洁并有活力,我会非常喜欢,不过我代表不了广大用户。”

顺着他的这个思路,那么如何一步一步做呢:

case:豆瓣热点
  • 步骤
    • 找到豆瓣上的核心用户,给予一定权重
    • 根据douban-python-API获取这些核心用户的所有朋友
    • 判断这些用户的最新活动时间,如果最近一星期内有更新,则加入到监测
    • 为之分门别类建立Group,以便按照兴趣打包订阅
    • 获取所有监测用户的广播,这是公开的
    • 汇总所有监测用户的推荐,一个推荐或提及就代表投了一票
      • site
      • recommendation
        • 看过
        • 想看
    • 设定一个投票上榜的最低阈值
    • 参考玩聚SR 的SRRank公式(SRRank=log10Z+ts/45000),设定自己排序规则
    • 为每一个Group都生成对应的热点榜单
    • 如果热点是电影或音乐,到VeryCD搜索获取对应的下载项
  • mashup
  • 缺点
    • 豆瓣的数据很零散,长尾太长,难以发现与时俱进的、有效的What's Hot
    • 顶多也就是被人回应比较多的Item
    • 甚至未见得最终挖掘效果比得过豆瓣电影首页的效果
    • 多数人都是想读想看看过之类的信息,用到“推荐”功能的不多
    • 豆瓣API有访问频次限制,小心别被block
目录
相关文章
|
数据采集 分布式计算 编译器
利用Pholcus框架提取小红书数据的案例分析
利用Pholcus框架提取小红书数据的案例分析
|
2月前
|
数据采集 存储 C#
C# 爬虫技术:京东视频内容抓取的实战案例分析
C# 爬虫技术:京东视频内容抓取的实战案例分析
|
4月前
|
机器学习/深度学习 Java 开发工具
【能力展现】魔改ZXING源码实现商业级DM码检测能力
【能力展现】魔改ZXING源码实现商业级DM码检测能力
126 1
|
2月前
|
数据采集 存储 自然语言处理
基于网络爬虫的微博热点分析,包括文本分析和主题分析
本文介绍了一个基于Python网络爬虫的微博热点分析系统,使用requests和pandas等库收集和处理数据,结合jieba分词、LDA主题分析和snownlp情感分析技术,对微博文本进行深入分析,并利用matplotlib进行数据可视化,以洞察微博用户的关注点和情感倾向。
145 0
基于网络爬虫的微博热点分析,包括文本分析和主题分析
|
5月前
|
数据采集 前端开发 数据挖掘
Fizzler库+C#:从微博抓取热点的最简单方法
本文介绍如何使用Fizzler库和C#构建微博热点信息爬虫。通过Fizzler的CSS选择器定位关键信息,提取热点标题和排名,实现微博内容的智能挖掘。示例代码展示单线程和多线程采集方法,并涉及代理IP使用。
Fizzler库+C#:从微博抓取热点的最简单方法
|
5月前
|
数据采集 存储 JavaScript
Buzz库网络爬虫实例:快速爬取百度搜索实时热点
Buzz库网络爬虫实例:快速爬取百度搜索实时热点
|
5月前
|
自然语言处理 数据挖掘
2020微博热点数据简析,附完整数据文件下载!
2020微博热点数据简析,附完整数据文件下载!
|
11月前
|
jstorm 大数据 分布式数据库
大数据下的实时热点功能实现讨论(实时流的TopN)
我司内部有个基于jstorm的实时流编程框架,文档里有提到实时Topn,但是还没有实现。。。。这是一个挺常见挺重要的功能,但仔细想想实现起来确实有难度。实时流的TopN其实离大家很近,比如下图百度和微博的实时热搜榜,还有各种资讯类的实时热点,他们具体实现方式不清楚,甚至有可能是半小时离线跑出来的。今天不管他们怎么实现的,我们讨论下实时该怎么实现(基于storm)。
167 0
|
机器学习/深度学习 SQL 分布式计算
图解大数据 | 使用Spark分析挖掘音乐专辑数据@综合案例
文娱影音是目前大数据与AI应用最广泛的场景之一,本案例以音乐专辑发行数据为背景,讲解使用pyspark对HDFS存储的数据进行处理数据分析的过程,并且对分析结果做了可视化呈现。
4651 3
图解大数据 | 使用Spark分析挖掘音乐专辑数据@综合案例
|
算法 搜索推荐
【直播预告】融合复杂目标且支持实时调控的重排模型在淘宝流式推荐场景的应用
【直播预告】融合复杂目标且支持实时调控的重排模型在淘宝流式推荐场景的应用
298 1