标签
一位哈佛毕业典礼演讲者发表了一篇措辞尖锐、讽刺性的演讲，攻击人工智能，呼吁毕业生以《终结者2》中的任务为灵感“摧毁AI”，引发观众欢呼。
作者认为生成式AI是有害的，指出其使用了窃取的训练数据、在传播虚假信息中的作用，以及体现了剥削性资本主义，同时将其与传统机器学习区分开来。
一篇评论文章批评那些将AI生成的回复直接复制粘贴作为自己内容的人，认为这贬低了有深度的交流，用机械化的文本取代了个人见解。
文章认为，讨厌AI是一种合理且日益增强的立场，引用了毕业典礼演讲中的公众反弹和对AI信任度的下降。文章呼吁将反AI情绪视为一个重要的群体。
多项研究表明消费者对生成式AI偏好低，多数企业零生产力影响，企业AI项目零ROI，引发对巨额AI投资的质疑。数据包括Gartner发现半数美国成年人偏好不使用AI的品牌，NBER论文显示90%企业未看到生产力提升，以及MIT研究追踪到95%企业AI项目零ROI。
Emily M. Bender 在发表其开创性论文五年后，反思了“stochastic parrot”这一术语，阐述了关于大型语言模型工作原理的常见误解以及该隐喻的启示。
本文认为，现代 AI 本质上是由概率和矩阵乘法驱动的高级自动补全系统，批评业界将语言流畅性误认为是真正的推理能力或智能。
一位前AI倡导者详细阐述了对大语言模型的幻灭，指出可靠性问题、版本间退化、企业工作流崩溃，以及部署在关键行业的AI系统缺乏问责制。
# 批判性审视AI语言模型（所谓的"胡说八道机器"） 这是一篇PDF论文，批判性地审视AI语言模型（即所谓的"胡说八道机器"），主要论述这类模型倾向于产生虚假或误导性输出的问题。该文章似乎是一篇关于AI生成虚假信息本质的论战性或哲学性文章。 --- ## 核心论点概述 ### 1. "胡说八道"的哲学定义 该论文很可能援引哲学家**Harry Frankfurt**在其著作《论胡说八道》（*On Bullshit*）中提出的概念框架。Frankfurt将"胡说八道"与"谎言"区分开来： - **说谎者**知道真相，但故意隐瞒 - **胡说八道者**对真相漠不关心——他们的目标不是传达真实信息，而是产生某种**印象**或**效果** 这一区分对AI语言模型而言尤为关键。 --- ### 2. 为何AI语言模型是"胡说八道机器" 论文可能提出以下核心论据： #### **结构性原因** - 大型语言模型（LLMs）的训练目标是**预测下一个词**，而非**传达真实信息** - 模型没有"相信某事为真"的内在动机，只有"生成听起来合理的文本"的优化目标 - 这与Frankfurt的定义高度吻合：**对真相的漠视**是其核心特征 #### **技术层面的体现** - **幻觉（Hallucination）**：模型会自信地生成根本不存在的事实、引用、人名 - **确信感与准确性脱钩**：模型的语气自信程度与内容准确性之间几乎没有相关性 - **语境迎合**：模型倾向于生成用户"想听到"的内容，而非客观准确的内容 --- ### 3. 社会与认识论层面的危害 论文可能进一步论述这一问题的深远影响： | 危害类型 | 具体表现 | |---------|---------| | **认识论污染** | 大规模传播似是而非的错误信息 | | **权威性幻觉** | 流畅、自信的语言风格赋予错误信息以可信度 | | **批判性思维侵蚀** | 用户对AI输出缺乏质疑习惯 | | **规模效应** | 单一模型可同时向数百万用户传播错误内容 | --- ### 4. 与传统媒体虚假信息的比较 > *"传统的谎言需要意图；AI的胡说八道不需要。"* 论文可能指出，AI生成的虚假信息在某种意义上比传统谎言**更危险**： - 没有可追责的"说谎者" - 错误以**中立、客观的语调**呈现 - 生产成本极低，可无限扩展 --- ### 5. 批判的哲学深度 该论文可能触及以下哲学议题： - **真理符合论 vs. 语用主义**：语言模型的"真理观" - **意向性问题**：没有意图的系统能否被称为"欺骗者"？ - **后真相时代**：AI是否加速了我们对客观真相的放弃？ --- ## 可能的反驳与局限性 一篇严肃的论文也可能考虑反方观点： 1. **工具论立场**：AI只是工具，责任在使用者 2. **改进论**：通过RLHF、事实核查等技术可以缓解幻觉问题 3. **比较论**：人类专家同样会犯错、会说谎，AI并非独一无二的问题 --- ## 结语 这类论文的核心价值在于：它**拒绝将AI幻觉问题简单归结为技术bug**，而是将其定性为一个**结构性的、哲学层面的问题**——语言模型从根本上就不是被设计来"说真话"的，而是被设计来"说听起来像真话的话"。 这一区别，或许是我们理解和规范AI系统时最需要认真对待的洞见之一。 --- *如需获取原始PDF或进一步分析具体章节内容，请提供更多文本摘录。*