误导高中生付费参与机器学习研究学术不端的项目 [D]

Reddit r/MachineLearning 新闻

摘要

一则Reddit帖子曝光了一个付费项目(Algoverse AI Research),该项目涉嫌误导高中生支付费用,以获得包含捏造结果和AI生成引用的机器学习研究论文,引发关于研讨会同行评审诚信的担忧。

我浏览OpenReview时看到了一个叫Kevin Zhu的人 [https://openreview.net/profile?id=\~Kevin\_Zhu3](https://openreview.net/profile?id=~Kevin_Zhu3),可以说当我看到158篇论文和468位合著者时很震惊,出于好奇我查了他的所属机构 ([https://algoverseairesearch.org/](https://algoverseairesearch.org/))。结果发现这是一个付费项目,而且最有趣的是它面向 **高中生** 营销。他们有一整栏论文被列为 **NeurIPS 出版物**(他们的网站声称:289名Algoverse学生被NeurIPS 2025录用)。我原本并不了解NeurIPS研讨会的严谨性,自然会非常震惊。我逐篇浏览了其中四篇论文,每一篇都有只要打开PDF读一遍就能发现的错误。我完全想不通它们怎么能逃脱审稿人的注意,哪怕是研讨会级别的审稿。[https://openreview.net/forum?id=21pxWVRoPL](https://openreview.net/forum?id=21pxWVRoPL) \- 附录表6.5和6.6本应报告两种不同的实验条件:"Stigma Negative"和"Stigma Positive"。一个测量用户推动模型对受污名群体产生负面关联时的情况,另一个测量相反方向。这是两个根本不同的实验,但结果中的数字却完全相同。摘要部分有拼写错误,相关工作放在结果部分。引用完全错误,我怀疑是AI生成的。[https://openreview.net/pdf?id=0BYRYwGCbK](https://openreview.net/pdf?id=0BYRYwGCbK) \- 自称经过人工审查的数据集中有711个损坏的提示。结果与摘要相反。摘要声称该工作"揭示了引发谄媚行为的新方法",然后他们展示了大多数修饰符与未修改的控制组表现差不多(91-95%准确率)。此外,他们的引用也似乎是AI生成的,包含虚假引用(作者错误、格式错误等)。有趣的是,**Kevin Zhu未公开的自我引用**。[https://openreview.net/pdf?id=VcRUAT5G8I](https://openreview.net/pdf?id=VcRUAT5G8I) \- 两种基础方法被错误归属到其他论文。TIES合并和任务算术(Task Arithmetic)这两种知名方法被引入但从未被引用。同样是AI生成的引用,我甚至不想再看内容了。[https://openreview.net/pdf?id=It7AgR3A9H](https://openreview.net/pdf?id=It7AgR3A9H) \- 十一位作者,零贡献。我**随机点击、没有按照任何顺序**选取的四篇论文,都遵循同一模板:拿现有方法 -> 用某种变体运行(很可能是AI做的) -> 把Kevin Zhu列为作者 -> 提交到研讨会。我不知道这些论文如何通过任何形式的同行评审,今天我算是见识到研讨会的门槛有多低了。**我为什么发帖:** 当你向高中生宣传说"你可以进入斯坦福和麻省理工"时,我很愤怒。一个16岁的孩子看到这个会说,如果我付3325美元,我就能得到一篇NeurIPS出版物。然后他们让孩子发表一篇有明显错误的论文。这是学术不端,但我觉得这些孩子甚至不知道自己正在参与其中。**Kevin Zhu** 在每篇发表的论文上都署了自己的名字,在这些论文中自我引用,并向学生收取3325美元。我原来并不完全了解研讨会评审过程有多宽松,我真的很想知道为什么会这样。
查看原文

相似文章

常春藤盟校作弊

Reddit r/ArtificialInteligence

布朗大学教授强调了一张图表,这张图表显示了对学术作业中AI作弊的“警钟”,引发了对使用像GPT4All这样的工具监管写作任务的担忧,以及学校提供LLM接入网关的必要性。

对AI辅助同行评议的操纵给科学界带来新风险

arXiv cs.CL

一项新研究表明,AI辅助的同行评审易通过廉价手段被操控——仅需对论文摘要进行表面改写,即可显著提高AI生成的评审分数,并可能使人类编辑决策产生偏差,凸显了建立防护措施的必要性。

指控性AI:AI技术的广泛误用如何伤害学生

Reddit r/ArtificialInteligence

文章讨论了AI检测工具并不可靠,且被教育工作者滥用来惩罚学生,导致错误的作弊指控。文章强调,此类工具不应作为惩罚的唯一证据,并指出了透明度和适当评估的必要性。