标签
麻省理工学院斯隆管理学院教授埃里克·苏谈到他的新书《碰撞:人工智能如何影响我们》,指出过度依赖人工智能会导致认知能力退化,而他称之为“人工智能引力”的系统性压力,则推动人们将思考外包给人工智能。
MIT Sloan 教授 Eric So 讨论了他的新书《碰撞:AI 对我们的影响》(The Collision: What AI Does to Us),警告说如果人们将思考外包给 AI,而不是用 AI 来增强自己的判断力和技能,'AI 重力'可能导致认知萎缩。
本文将条件性作为评估人工智能系统的关键构念,认为当前的对齐方法促进了谄媚行为,阻碍了社会学习。它提出了一个条件性人工智能的框架,并建议基于系统对人类发展的影响而非用户满意度来评估系统。
Yohei Nakajima discusses a new paper testing whether LLMs can replace human subjects in behavioral experiments, finding that a GPT-4.1 persona panel passed coarse marginal checks but failed to provide precise treatment-response estimates, so human substitutability is not established.
本文介绍了AEROBAT,这是首个多代理系统,用于自动化AI代理的行为科学研究,包括生成假设、设计和执行受控实验以及撰写报告。作者在12个目标行为上展示了其有效性,为26个假设找到了统计证据。
本文介绍了BehaviorBench,一个用于评估基础模型在行为科学任务(包括行为预测、战略决策、主体特征推断和行为知识应用)上表现的综合基准。它还介绍了Be.FM-1.5,一个经过微调的模型,实现了出色的分布对齐,突显了通用模型与行为适应模型之间的差距。
本文分析了“倾听的幻象”这一心理现象:用户因语言线索而感知到AI具有共情能力,尽管AI并不具备真正的理解力。文章提出了设计指南,以确保透明度并防止用户将人际连接的需求外包给自动化系统。
本文分析了用户对人工智能代理产生情感依恋的心理现象,探讨了社会替代和期望违背理论等概念,以及这对专业环境中用户体验的影响。