主题论文总结3:维基百科生成任务(持续更新ing...)

简介: 主题论文总结3:维基百科生成任务(持续更新ing...)
  1. 生成摘要
  • Re5:读论文 TWAG: A Topic-guided Wikipedia Abstract Generator_诸神缄默不语的博客-CSDN博客
  • 数据集:WikiSum

(1)提出数据集的:Generating wikipedia by summarizing long sequences.:提出了一个先抽取后生成的两阶段摘要生成模型,首先从网络资源中根据TF-IDF权重选择句子,然后将输入视作一个长序列,用transformer模型生成摘要。


(2)其他基于此数据集的研究

1)Generating summaries with topic templates and structured convolutional decoders.:用卷积(convolutional)encoder和分层(hierarchical)decoder,用Latent Dirichlet Allocation model (LDA)使decoder变得topic-aware。

2)Leveraging graph to improve abstractive multi-document summarization.

3)HierSumm Hierarchical transformers for multi-document summarization.:在抽取阶段用了一个learning-based model(我也不知道这是指啥),计算自然段间的learning-based model以建模其间依赖。


  1. 生成文章
  • 第一个做维基百科生成任务的论文:Automatically Generating Wikipedia Articles: A Structure-Aware Approach:用Integer Linear Programming (ILP)选择句子
  • Wikiwrite: generating wikipedia articles automatically.:评估被选句的coherence
  • WikiAsp: A Dataset for Multi-domain Aspect-based Summarization:探索Wikipedia的结构,构建aspect-based summarization dataset(手工打标aspects),用微调的RoBERTa模型识别输入自然段的aspects
  • Surfer100: Generating Surveys From Web Resources on Wikipedia-style:提到用预训练模型来做维基百科生成任务有个槽点在于预训练模型本来就是拿维基百科数据做的。对这一问题的解决方案就是用新生成的、预训练模型用来训练的数据之外的维基百科文章来做生成任务。


  1. 用Wikipedia的infoboxes的key-value pairs生成biography:An unsupervised approach to biography production using wikipedia.


  1. 关注女性传记生成:Generating Biographies on Wikipedia: The Impact of Gender Bias on the Retrieval-Based Generation of Women Biographies


目录
打赏
0
0
0
0
20
分享
相关文章
2024年6月118篇代码大模型论文最全整理
基座模型与训练数据、代码微调、测试基准、代码Agent、低资源语言处理、AI代码安全与分析、人机交互、软件工程下游任务应用主题代码大模型论文分享,干货满满~
928 2
2024年5月90篇代码大模型论文最全整理
聚焦大模型前沿技术,解析学界业界最新进展
80 0
2024年5月90篇代码大模型论文最全整理
如何利用ChatPDF快速阅读英文论文,帮你写文章
如何利用ChatPDF快速阅读英文论文,帮你写文章
187 0
【C++系列P1】带上这篇基础小宝典,进发C++!(持续更新ing~)
【C++系列P1】带上这篇基础小宝典,进发C++!(持续更新ing~)