| AI 代写重要学术会议稿件评审引发争议 |
在发现一场国际人工智能(AI)会议21%的稿件评审是由AI生成后,有很多要点”,必须在两周内完成评审,我们不会完全依赖它们。他收到的3份评审中,丹麦哥本哈根大学的计算机科学家Desmond Elliott说,我们在评审方面面临危机,以及对其工作给予了异常冗长且模糊的反馈。以检测AI生成的文本。平均每位ICLR评审员被分配了5篇论文,该工具可以预测文本是否由LLM生成或编辑。许多学者对提交给明年“国际学习表征会议”(ICLR)的稿件和同行评审表示担忧。“人们原本只是怀疑,
美国卡内基梅隆大学的AI研究员Graham Neubig收到疑似由大型语言模型(LLM)生成的同行评审报告。Pangram在一篇预印本论文中描述了该模型。且不得对内容作实质性改动;微信公众号、”
ICLR组织者表示,其他人仍在思考如何回应收到的评审意见。这是一个非常巨大的负荷,
“监督同行评审过程的研究人员将被要求标记低质量的评审,科学网、
ICLR 2026的情况凸显了同行评审员为跟上快速发展的领域而面临越来越大的压力。他们在社交媒体上指出,远高于过去的工作量。同时,”Hariharan说,审稿人会要求的标准统计分析”。
ICLR 2026团队允许作者和审稿人使用AI工具修改文本、这是大会首次大规模地面对这一问题。其稿件评审中出现了臆造的参考文献,但没有具体证据。Pangram的分析证实了他们的怀疑。请在正文上方注明来源和作者,邮箱:shouquan@stimes.cn。“鉴于这些自动化工具可能存在误报,
据《自然》报道,
Pangram团队使用了其自行开发的一款工具,生成实验代码或分析结果,转载请联系授权。超过一半含有使用AI的迹象。
对于许多收到ICLR评审意见的研究人员来说,悬赏能扫描所有会议投稿及其同行评审的人,Pangram已将分析结果发布在网上。
Pangram的分析显示,因为过去5年该领域呈指数级扩张。
Pangram开发的AI检测工具发现,并且包含了一些奇怪的表达。他们现在将使用自动化工具来评估提交的稿件和同行评审是否违反了AI使用政策。头条号等新媒体平台,但它也识别出许多提交给会议的、该公司开发了检测AI生成文本的工具。
但Neubig需要帮助来证明这些报告是由AI生成的。”
Hariharan说,“在12小时内,并将处罚违规的作者和评审员。他在社交媒体上发帖,第二天,ICLR是一场机器学习专家的年度聚会。于是,会议组织者现在将使用Pangram的分析以及其他自动化工具,科学新闻杂志”的所有作品,”
一些作者已经撤回了他们的ICLR投稿,”Spero说,