研究人员刚刚在医学论文中发现28个虚假AI引用

https://preview.redd.it/fatwrex57m3h1.png?width=1900&format=png&auto=webp&s=0ecf308f2029dcd749cd9333f871caecf751da40 因此，AI生成的虚假引用正悄然渗入科学期刊，尤其是那些用于为医生制定实际临床指南的期刊。本周，一个国际研究团队敲响了警钟，此前主要作者Rachel Smart博士注意到一个令人担忧的趋势：科学家们正在使用未经核实的AI工具来撰写论文。他们进行分析后发现，至少有28条完全捏造的参考文献在现实中根本不存在。可怕的是，这些虚假数据竟然通过了同行评审，进入了构成官方临床建议基础的期刊。打个比方，我们过去只在学生论文中看到这些AI幻觉，但现在它正渗入本应审查极其严格的高水平医学文献中。就连开发这些模型的科技公司也承认，他们还不能完全解决幻觉问题。这显然增加了医疗决策失误的风险，因为临床指南直接决定了患者接受的治疗方式。科学论文中出现虚假来源会削弱人们对传统同行评审系统的信任，迫使医学界寻找新的方法来过滤AI生成的文本。来源：[https://the-decoder.com/ai-hallucinated-citations-are-creeping-into-papers-that-shape-clinical-guidelines-researchers-warn/](https://the-decoder.com/ai-hallucinated-citations-are-creeping-into-papers-that-shape-clinical-guidelines-researchers-warn/)