学术论文和文章中越来越多出现的人工智能幻觉

Reddit r/ArtificialInteligence 新闻
ai-hallucinations academic-papers large-language-models research-integrity academic-conditions llm-risks

摘要

一期播客节目探讨了学术论文中日益增多的AI幻觉现象，将其归因于学者们恶劣的工作条件，并警告这可能对未来研究及知识生产构成威胁。

[芝加哥格式幻觉（与约翰·邓肯对话）](https://tenthousandposts.podbean.com/e/chicago-style-hallucinations-ft-john-duncan/) 本周，我们邀请到作家、学者兼创作者约翰·邓肯，共同探讨大型语言模型对学术写作与研究的影响。约翰谈及学术论文和文章中越来越多出现的人工智能幻觉，以及这背后反映出的英国乃至全球学者工作待遇恶劣、薪酬低下的现实。他还指出，这种趋势对未来研究和知识生产构成的危险——若我们再次面临公共卫生危机，后果可能不堪设想。此外，我们还讨论了教皇关于人工智能产业的通谕，分析了为何它并不像报道中描述的那样激进或革命性，以及为何任何关于“合乎伦理的人工智能”的概念都应被摒弃。
查看原文

相似文章

AI幻觉可能比人类更“人性”

Reddit r/artificial

文章指出，AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等，它们并非纯粹的技术缺陷，而是像人类一样在知识缺口处“脑补”的结果。

我们正处于AI采纳的煤气灯效应阶段

Reddit r/ArtificialInteligence

文章认为，公司夸大AI的成熟度，将风险转嫁给员工，并通过煤气灯效应让员工忽视幻觉、脆弱工作流程等真实问题。