别再让大语言模型编辑你的 .bib 文件 [D]
摘要
本文批评了依赖大语言模型生成参考文献条目的做法，指出了学术论文中幻觉引用和作者列表错误的问题。
我震惊地发现幻觉引用频繁出现。在过去几个月里，我自己的论文被引用时，我已经看到了5次标题正确但作者列表错误的情况。当我发邮件告知作者时，他们总是责怪大语言模型产生了幻觉。自己填写 .bib 文件真的那么难吗？如果你对研究有任何尊重，确保正确引用先前文献难道不是基本要求吗？我认为应该对这些幻觉引用施加更严厉的惩罚。其他人也有同样的经历吗？
相似文章
本地LLM在适配法律文档时持续自信地产生虚构引用——是否有接地/模型/流水线的思路？
用户报告称，本地LLM在适配法律文档时以高自信度虚构引用，并寻求关于如何通过接地、模型或流水线思路来缓解此问题的建议。
在研究中合乎道德地使用LLM的唯一方法是采用闭环LLM知识库。
文章认为，使用LLM进行研究需要一个闭环系统，如Karpathy的LLM Wiki或Recall AI知识库，以防止幻觉，确保所有输出都基于可信的源文档。
现在是时候让大语言模型访问ACM数字图书馆
本文认为，时机已经成熟，应该授权大语言模型（LLMs）访问ACM数字图书馆，在版权问题与人工智能研发的益处之间取得平衡。
LLMs能否意识到我们正从错误的角度看待问题？
本文探讨大语言模型是否能够独立识别并挑战科学中的基本假设，以实现范式转变式的突破，并类比了人类创新，如爱因斯坦的引力理论。
为了内容而内容
作者探讨了LLM如何影响编码和日常语言中的用词，发现LLM偏好的词汇在编程会话和Google Trends中出现的频率均有所增加，这引发了人们对人类开始采用LLM写作风格的担忧。