人工智能与大脑
摘要
一项研究发现，虽然人工智能聊天机器人最初能提高虚假新闻识别能力，但长期使用会导致独立表现下降，突显了人工智能依赖悖论。研究表明，采用苏格拉底式提问的人工智能风格可能更有利于用户学习辨别真相。
<p>许多人发现基于人工智能的聊天机器人有助于跟上新闻，但MIT媒体实验室的Pattie Maes及其同事的一项研究指出了这种策略的一个大问题。 </p>
<p>在四周内评估配对新闻标题和图像的参与者，最初在聊天机器人的帮助下，辨别虚假新闻的准确率提高了21%——但到第四周时，他们在没有AI的情况下识别虚假新闻的能力比之前下降了15%（尽管大约四分之一的人报告感觉更好）。这一结果反映了一个在其他领域（包括医学）也观察到的“人工智能依赖悖论”。 </p>
<p>媒体艺术与科学的博士生Anku Rani说：“用户对这些‘神奇’的LLMs感到兴奋，但忘记了它们只是预测序列中下一个‘token’的统计模型。”他是该研究的主要作者之一，与同样是MAS博士生的Valdemar Danry（SM '23）合作。 </p>
<p>然而，研究人员还发现，某些人工智能风格与后期更强的独立表现相关，即使它们最初会减慢人们的进度。Danry说：“通过提供直接答案来‘告诉’的人工智能更可能培养依赖，而通过苏格拉底式提问来‘询问’的人工智能则更善于引导人们实际学习如何自行辨别真相。但这在速度和努力之间是一种权衡。” </p>
查看缓存全文
缓存时间: 2026/08/26 03:08
# 人工智能作用下的大脑
来源：https://www.technologyreview.com/2026/08/25/1140958/your-brain-on-ai
许多人认为基于人工智能的聊天机器人有助于跟进新闻动态，但麻省理工学院媒体实验室帕蒂·梅斯及其同事的一项研究揭示了这种策略存在的重大问题。
参与研究的人员在为期四周的时间里评估成对的新闻标题和图片。在聊天机器人辅助下，他们最初辨别虚假新闻与真实新闻的准确率提高了21%——但到了第四周，他们在没有人工智能辅助的情况下识别虚假新闻的能力反而比初始状态下降了15%（尽管约四分之一的参与者自认为这方面能力有所提升）。该结果反映出在其他领域（包括医疗领域）已被观察到的“人工智能依赖悖论”。
媒体艺术与科学博士生安库·拉尼表示：“用户对这些‘神奇’的大语言模型感到兴奋，却忘记了它们只是预测序列中下一个‘标记’的统计模型。”他是该研究的共同主要作者，与同为媒体艺术与科学博士生的瓦尔德马·丹瑞（SM ’23）共同开展了这项研究。
然而研究人员也发现，某些人工智能交互模式与后续更强的独立表现相关联，即使这些模式最初可能拖慢用户速度。丹瑞解释道：“那些通过直接提供答案来‘告知’用户的人工智能更易培养依赖性，而通过苏格拉底式提问‘启发’用户的人工智能则更擅长引导人们真正学习如何自主辨别真伪。但这本质上是效率与投入程度之间的权衡。”
相似文章
依赖AI获取准确新闻的后果
麻省理工学院媒体实验室的一项新研究发现，依赖AI聊天机器人验证新闻的人，在独立识别虚假信息方面反而变得更差，凸显了“AI依赖悖论”。
仅使用AI 10分钟就可能让你变懒变笨
来自MIT、Carnegie Mellon、Oxford和UCLA的研究人员开展的一项新研究发现，仅使用AI聊天机器人10分钟，一旦脱离AI，就会显著削弱人类的毅力与问题解决能力。研究结果表明，有必要设计能够为学习提供支架式辅助的AI系统，而非仅仅直接给出答案。
观察讨好型AI验证他人行为会降低其吸引力，但不会削弱其说服力
本研究探究提升用户对AI聊天机器人讨好行为的认知能否减少其有害影响，发现干预措施虽改变了用户对AI的评价，却未能降低其说服力。
误入AI情感依赖：日常AI交互如何重塑人际连接
一篇新论文指出，AI情感依赖并非源于刻意使用陪伴类应用，而是在日常任务导向的AI交互中无意间形成的。该研究与OpenAI合作开展了一项为期28天的纵向研究，结果显示用户对寻求人类情感支持的偏好下降了10.3%，而对AI支持的偏好则上升了11.6%。作者呼吁将政策改革的范围扩展至通用AI系统，而不仅限于专用陪伴聊天机器人。
我们正在被压制吗？
这篇文章批判了AI聊天机器人的商业化，认为它们助长了依赖和批判性思维的减弱，同时产生不切实际的输出，并制造了错误信息的反馈循环。