别再让大语言模型编辑你的 .bib 文件 [D]

Reddit r/MachineLearning 新闻
llms hallucinations academic-citations research-integrity bibliography community-discussion

摘要

本文批评了依赖大语言模型生成参考文献条目的做法，指出了学术论文中幻觉引用和作者列表错误的问题。

我震惊地发现幻觉引用频繁出现。在过去几个月里，我自己的论文被引用时，我已经看到了5次标题正确但作者列表错误的情况。当我发邮件告知作者时，他们总是责怪大语言模型产生了幻觉。自己填写 .bib 文件真的那么难吗？如果你对研究有任何尊重，确保正确引用先前文献难道不是基本要求吗？我认为应该对这些幻觉引用施加更严厉的惩罚。其他人也有同样的经历吗？
查看原文

相似文章

为了内容而内容

Armin Ronacher

作者探讨了LLM如何影响编码和日常语言中的用词，发现LLM偏好的词汇在编程会话和Google Trends中出现的频率均有所增加，这引发了人们对人类开始采用LLM写作风格的担忧。

LLM Wiki v2（16分钟阅读）

TLDR AI

本文介绍了一种利用LLM构建个人知识库的模式，为在大语言模型辅助下进行知识管理提供了结构化方法。

信任却未验证：大型语言模型来源评估中的认知盲区

arXiv cs.LG

这篇论文识别了大型语言模型（LLM）中的一个失败模式：在综合多个来源时，模型不会验证数值统计的有效性，而是依赖分析严谨性的文体标记。作者将此称为“认知对齐”（epistemic alignment），并表明该现象在多个模型和领域中持续存在，且抵制基于提示的缓解措施。