现有同行评审太慢!PeerXiv新平台:5位审稿人1个月出结果,网友:早该有了

简介: 现有同行评审太慢!PeerXiv新平台:5位审稿人1个月出结果,网友:早该有了

PeerXiv!一种全新的学术论文评审方式。


众所周知,等待同行评审的过程是很煎熬的。

自己辛辛苦苦写的论文,又是做实验,又是写报告,精益求精地润色每一句话…… 写完论文已然是一个耗费精力的活,但提交的论文同行评审结果迟迟没有消息,有时自己都会怀疑编辑是不是忘了我的稿件。你唯一能做的就是:等。

到底多长时间才能收到同行评审人和期刊编辑的反馈?据了解至多约为 3 个月(研究表明,同行评审通常平均需要 7 到 12 周),但很多变量会对时长造成影响。

假如现在重新设计同行评审会是什么样子?同行评审是研究社区的基石之一,然而,在社区不断进步和发展的同时,评审过程几乎没有变化。

现在,是时候尝试重新审视同行评审了。

一群研究人员利用业余时间设计和开发了 PeerXiv 平台,通过该平台审稿过程只需一个月。我们先来看下 PeerXiv 审稿结果,一篇论文有 5 个评价指标,评审结果会综合这 5 个指标给出平均分数。我们还能看到 5 位审稿人的打分情况。


地址:https://peerxiv.web.app/dashboard/papers

该平台的研究者包括计算机视觉研究者和爱好者 Elad Richardson、计算机视觉和 ML 研究员 Kfir Goldberg、特拉维夫大学计算机科学专业硕士学生 Yuval Alaluf,以及 Nofar Menashe。


这一平台的推出,收到众多好评,网友不禁感叹:太需要这种平台了,这种利好广大研究者的东西早就该有了,目前的同行评审体制完全是一团糟。


不过也有人提出担忧:这个平台看起来很整洁,同时我也非常担心,我怀疑这个平台的评审结果会不会偏向比较出名的研究者。此外,一旦人们开始花时间审查 PeerXiv 提交的内容,这会不会完全破坏其他出版机构的审查流程?换句话说,具有盲审流程的机构是否允许人们将他们的论文提交给 PeerXiv?


也有网友表示:该平台如何保证提交的论文质量,以及如何让高 H 指数的人利用他们的空闲时间来审查?同行评审低效的部分原因是提交的内容太多,而具有资格进行评审的人太少。

对于大家的疑问,PeerXiv 网站整理了几个大家比较关心的问题,大家可以前往查看。

PeerXiv 评审:快速、透明和奖励

PeerXiv 是一个现代化的同行预印本评审平台。论文作者可以提交他们的预印本,并直接从一组匿名的 PeerXiv 审稿人那里获得反馈。同时,审稿人会根据他们的工作获得声誉分(reputation point)。
PeerXiv 的设计遵循以下三个原则。

首先是快速(Fast)。当前的同行评审过程往往让论文作者苦等数月才能收到反馈。PeerXiv 在论文提交后的一个月时间内就可以为作者提供有用、详细的反馈。

其次是透明(transparent)。创建者认为,论文作者和审稿人理应得到一个可访问、透明的审稿流程视图。PeerXiv 对每篇提交论文的状态以及作者、审稿人和整个系统的统计数据都会提供详细的信息。

与此同时,PeerXiv 不提供接收 / 拒绝分数,而是在多个评价指标的基础上对论文进行清晰的评估。具体地,5 位审稿人被要求按照 5 分制、5 指标的评价系统对每篇论文进行打分,这 5 个评价指标分别如下:

  • 新颖性(Novelty),论文主要贡献的原创和新颖性;
  • 重要性(Significance),论文对研究社区及其他的影响度;
  • 复现性(Reproducibility),复现所提方法和评估的难易度;
  • 验证性(Validation),论文中所提评估和比较的彻底性;
  • 展现性(Presentation),论文动机和思路的展现和组织度。


最后是奖励(Rewarding)。审稿人是每篇论文评审过程的核心,他们的工作理应得到奖励。声誉系统(Reputation System)是 PeerXiv 对审稿人工作给予认可的方式。

PeerXiv 的审稿过程

PeerXiv 审稿过程仅需要一个月,对于论文作者和审稿人都很直观。

论文提交(Paper Submission)

作者可以在 PeerXiv 提交现有预印本以供评审。论文可以随时提交,并将立即被添加到评审池(reviewing pool)中。

论文投标(Paper Bidding)

审稿人标记自己觉得有趣的论文。PeerXiv 还将提供匹配分数(match score),帮助审稿人找到与自己专业知识匹配的论文。在投标之前,审稿人还可以看到自己评审论文所获得的声誉。

论文 Assignment

每周的周二和周三,PeerXiv 平台将尝试将论文与审稿人匹配,并根据他们的专业知识和经验来创建一个多元化委员会。评审通常由 5 位审稿人完成,提供更值得信赖的流程。并且,审稿人整个过程中将匿名进行。

初评审(Initial Reviews)

PeerXiv 的目的不是提供一个简单的接收 / 拒绝分数,而是提供一个基于 5 个评价指标的清晰评估,上文中已经提到,它们分别是新颖性、重要性、复现性、验证性和展现性。

审稿人讨论(Discussion)

在得出初评审之后,审稿人之间将展开讨论,互相听取意见并完善最终评审。初始和最终分数都将呈现给论文作者和公众。

作者回应(Author Response)

审稿人提交最终评分之后,论文作者有机会根据需要对评审意见进行回应。作者回应将与评审意见一块呈现。需要注意,PeerXiv 中没有设置 rebuttals/camera-ready 步骤。PeerXiv 根据提交的预印本进行评审,论文作者可以再次提交新版本。

发表(Publication)

至此,评审过程结束。论文和相应的评审意见将出现在 PeerXiv 的首页上,并显示最终评分。高分论文将由 @peerxiv 自动发表,以提供进一步曝光。

详细流程图如下。

创建者表示,PeerXiv 目前只是一个模拟(mock),展示了他们对同行评审系统的全新愿景。

参考链接:https://peerxiv.web.app/abouthttps://www.reddit.com/r/MachineLearning/comments/uuhy4e/n_introducing_peerxiv_a_modern_platform_for/

相关文章
|
1月前
|
测试技术 程序员 项目管理
甲方怒喷半小时:一次项目上线失败的深刻教训
小米分享了一次项目上线失败的经历,起因是运营提出一个看似简单的白名单功能。问题包括:没有需求原型导致理解偏差,新成员对项目不熟悉,测试流程不全面,以及人员变动大。解决方案涉及需求确认会、原型图设计、交接制度、团队培训和全流程测试等。这次失败提供了关于需求分析、项目管理及团队协作的教训。
30 2
|
1月前
|
新能源 图形学
两千字——零基础开始打化工设计大赛——附搜集到的小白资料站、一次项目复盘
两千字——零基础开始打化工设计大赛——附搜集到的小白资料站、一次项目复盘
52 0
|
算法 搜索推荐 安全
来自一线技术人的经验分享|如何写出让人眼前一亮的述职报告
本文作者从亲身经验阐述了一线技术人为什么述职、怎么述职以及述职的重要性。每年述职都是一大关,作者把自己的一些经验教训通过文字分享给大家,希望能帮助到更多的人。
36887 14
来自一线技术人的经验分享|如何写出让人眼前一亮的述职报告
|
前端开发 程序员 测试技术
程序员成长第十二篇:做好项目计划
程序员成长第十二篇:做好项目计划
83 0
|
Web App开发 自然语言处理 前端开发
前端岗位初入职场后的最初一段时间需要做什么
文章题目有点长,叫 《前端岗位初入职场后的最初一段时间需要做什么》,说下写这篇文的初衷,在前端自学团里有很多刚毕业或者是刚从培训班出来的同学,在群里天天讨论着找工作和面试的事情,面试的题在很多app或者小程序可以找得到,但很多同学不知道刚进入公司的最初一段时间是做什么事情,所以本文以此为出发点,讲一些刚进入公司需要注意的点 需要注意的是,由于每个人的环境适应力不同,所以标题中的最初一段时间,可能是一天,也可能是三天,但一般不会超过一周
113 0
前端岗位初入职场后的最初一段时间需要做什么
|
消息中间件 缓存 中间件
来自一个阿里工作的朋友经验之谈!
第一点:就是阿里的技术。
164 0
|
设计模式 算法 网络协议
别再问我推荐什么书籍和网课,这次把私藏很久的资料都贡献了(上),建议收藏!
别再问我推荐什么书籍和网课,这次把私藏很久的资料都贡献了(上),建议收藏!
599 0
|
缓存 移动开发 前端开发
我在阿里招前端,我该怎么帮你?
良心解读:JD 分析图谱 我面试过的同学,在结束的时候,我都会指出问题,并给出学习建议。大部分同学不是不够努力,不是不够聪明,而是没有找对方法,没有切中要害。我总结了一下之前所有的面试经历,以及常见的问题,写下这篇文章,希望能够给前端的同学,不论是否来面试阿里的职位,有一个参考。同时,也是写下我自己总结的方法,希望能帮助到其他技术相关的同学
14266 0
我在阿里招前端,我该怎么帮你?
开会=浪费时间?阿里技术团队这样开项目复盘会
阿里妹导读:复盘是项目结束后必不可少的阶段,好的复盘会议能够有效地促进团队成长。今天,阿里项目管理专家鹿迦以自身的经验,为大家分享如何做好一个项目的复盘。这篇文章分成两个部分,第一部分简单阐述对这种回顾会议的理解,认识会议的真正价值;第二部分是分享个人操作的团队回顾会议流程。
6612 0