SGRank

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: SGRank是2015年提出来的无监督关键词抽取算法。无监督关键词抽取主要可以分成两个类别:一类是基于统计的方法;一类是基于图的方法。这次由此提出了一种混合统计-图的新算法,来实现无监督关键词抽取的最佳效果。

SGRank: Combining Statistical and Graphical Methods to Improve the State of the Art in Unsupervised Keyphrase Extraction


SGRank简介


SGRank是2015年提出来的无监督关键词抽取算法。无监督关键词抽取主要可以分成两个类别:一类是基于统计的方法;一类是基于图的方法。这次由此提出了一种混合统计-图的新算法,来实现无监督关键词抽取的最佳效果。


SGRank思想


SGRank算法主要的改进在于:1、基于最优统计特征构建关键字抽取算法;2、将其与基于图的算法相结合来进一步改进。基于图的方法考虑了词的共现关系,n元语法规则。


TF和IDF都是启发式信息。


SGRank实现


1、从输入文本中提取所有可能的Ngram,并排除那些极不可能是关键短语的,例如包含标点符号的n-gram。


2、基于tf idf的修改版本对剩余的n-GRAM进行排序。


3、基于附加的统计启发式(例如第一次出现的位置和术语长度)对来自第二阶段的排名靠前的候选项进行重新排序。


4、将阶段三中产生的排名合并到基于图的算法中,该算法产生关键短语候选的最终排名。


其中第三步附加的统计启发式包含词第一次出现的位置,词越早出现在文档中,越可能是关键词:


image.png


其中p(t,d)表示词t 第一次出现在文档d中的位置;cutoffPosition被默认设置为3000。


还考虑了候选关键字的长度,候选关键词长度越长,越有可能是关键词:使用TL(t)来进行表示候选关键字的长度。


最终形成一个新的公式,对筛选出的候选关键词进行排序:


image.png


其中subSumCount(t,d)是在所有候选关键词T 中包含词t的频率之和。


image.png


其中winSize是共现窗口的大小,通常被设置1500;p o s i 和p o s j 是词t i 和t j 的各自出现位置;numCo−occurrences(t i ,t j  )表示的是在1500窗口内,两个词共现的数量。


考虑到高统计特征词之间的交互概率应该高于低统计特征词之间的交互概率,所以词之间的连边权重将按照以下公式进行定义:


image.png


w d 将作为词t i 和t j 之间的权重被添加到词的统计特征中来。


最终图的迭代公式如下,因为会对每个节点的输出权重进行归一化,所以和PageRank的原始公式存在一定的差距:


image.png


SGRank算法结果


数据集:Semeval 2010,Inspec、Krapivin。


模型:SGRank、KP-Miner、TextRank。


表1 多种关键词提取算法结果比较


6aef4c1f2a9d461c8f48ef9220cddae5.png


SGRank总结


SGRank是一种无监督的关键短语提取算法,该算法结合了统计和基于图形的启发式方法,能够在多个数据集上改进具有统计意义的现有技术。在其他特征中,SGRank使用了一种新的包容启发式变化。我们还证明了对数衰减函数在数学上表示基于短语距离的启发式算法的适用性,例如第一次出现的位置和基于短语出现的平均距离的图边加权。SGRank另一种方式是作为项加权方案。因此,一个有趣的未来方向将是研究在信息检索、文档聚类和监督算法等领域取代传统的术语加权方案(如tf-idf)是否会导致性能的任何改进。

目录
相关文章
|
7月前
|
SQL 存储 安全
一文读懂 APP 上架安全评估:你的隐私,由谁守护?
在手机不离手的今天,APP已成为生活助手,但其上架前需经历严格的安全评估。从数据安全、代码漏洞到权限管理,层层把关确保用户隐私与安全。了解这一过程,助力构建更可信的移动生态。
1223 0
|
JavaScript 前端开发 API
使用Twilio拨打电话或短信
使用Twilio拨打电话或短信
|
11月前
|
人工智能 Ubuntu Unix
第 1 章 Linux 快速入门
Mainline 表示主线开发版本,Stable 表示稳定版本,稳定版本主要由 mainline 测试通过而发布。Longterm 表示长期支持版,会持续更新及 Bug 修复,如果长期版本被标记为 EOL(End of Life),则表示不再提供更新。
359 0
|
自然语言处理 前端开发 JavaScript
用 通义灵码 一键生成“水波纹按钮”,连 CSS 动画都不用自己写了!
通义灵码是一款智能编程辅助工具,它可以根据自然语言指令自动生成高质量的代码。例如,只需输入“生成一个按钮,点击时带水波纹动画,模拟 Material Ripple 效果”,它就能生成具备完整交互逻辑、CSS 动画和良好性能的按钮组件。不仅如此,它还支持拓展功能,如长按触发提示、添加图标等,并能自动优化样式适配不同场景。通过通义灵码,开发者可以大幅提升效率,专注于创意实现,而不必纠结于繁琐的代码细节。
|
7月前
|
自然语言处理 运维 供应链
哪些Agent工具适合中小企业?从选型到落地,一篇吃透
中小企业数字化转型常陷“投入打水漂”困境:重金引进系统却因人才短缺、操作复杂沦为摆设。本文聚焦中小企业真实痛点,拆解Agent工具如何以低成本、易操作、高适配助力企业降本增效。从智能客服、财务自动化到生产管理,精选实用场景与落地策略,手把手教你选对“用得起、用得会、用得好”的AI工具,让技术真正赋能业务,实现“小投入,大回报”。
606 1
王者荣耀大厅喊话脚本,大厅自动打字发广告插件,按键实现全自动效果分享
这是一款王者荣耀智能喊话软件源码分享。通过插件实现自动在大厅发送文字广告,支持多账号操作与随机话术功能。包含布局创建、按钮事件及循环执行代码逻辑。
|
机器学习/深度学习 算法 自动驾驶
清华、北大等发布Self-Play强化学习最新综述
【10月更文挑战第4天】清华大学和北京大学的研究人员近日在arXiv发布了一篇关于Self-Play在强化学习中应用的综述文章。Self-Play,即自我对弈,通过智能体与自身或过去版本的互动实现自我学习和提升。文章系统地介绍了Self-Play的基础知识、提出了统一的算法分类框架,并探讨了其在游戏、机器人控制及自动驾驶等领域的应用与挑战,为读者提供了全面的理解视角。尽管文章在某些领域应用探讨上可能不够深入,但对于强化学习研究者而言仍是一份宝贵资源。
694 3
|
人工智能 安全 网络安全
揭秘!大模型私有化部署的全方位安全攻略与优化秘籍,让你的AI项目稳如磐石,数据安全无忧!
【10月更文挑战第24天】本文探讨了大模型私有化部署的安全性考量与优化策略,涵盖数据安全、防火墙配置、性能优化、容器化部署、模型更新和数据备份等方面,提供了实用的示例代码,旨在为企业提供全面的技术参考。
1303 6
|
缓存 算法 Shell
魔搭牵手vLLM,提供更快更高效LLM推理服务
今年六月,来自加州大学伯克利分校、斯坦福大学、加州大学圣迭戈分校的研究人员基于操作系统中经典的虚拟内存和分页技术,提出了一个新的注意力算法PagedAttention,并打造了一个LLM服务系统vLLM。
|
编解码 人工智能 安全
【01】AE特效开发制作特技-Adobe After Effects-AE特效制作快速入门-制作飞机,子弹,爆炸特效以及导出png序列图-优雅草央千澈
【01】AE特效开发制作特技-Adobe After Effects-AE特效制作快速入门-制作飞机,子弹,爆炸特效以及导出png序列图-优雅草央千澈
550 20
【01】AE特效开发制作特技-Adobe After Effects-AE特效制作快速入门-制作飞机,子弹,爆炸特效以及导出png序列图-优雅草央千澈