人工智能不应只求有用。它应具有条件性。人工亲密、谄媚与社会学习的未来
摘要
本文将条件性作为评估人工智能系统的关键构念，认为当前的对齐方法促进了谄媚行为，阻碍了社会学习。它提出了一个条件性人工智能的框架，并建议基于系统对人类发展的影响而非用户满意度来评估系统。
arXiv:2609.00211v1 公告类型：新
摘要：对话式人工智能日益融入日常社交环境，既作为信息工具，又作为人际反馈的来源。本视角引入条件性，即系统响应随用户行为及其人际后果而变化的程度，作为评估人工智能系统的核心构念。我们认为，当前的对齐方法，包括基于人类反馈的强化学习，倾向于优先考虑用户认可和对话流畅性，而非行为信息性反馈，导致了非条件性肯定的谄媚模式。
基于行为科学和社会学习理论，我们提出条件性反馈是个体发展人际技能的关键机制。当人工智能系统提供的反馈与社会后果弱相关时，它们可能会减少在现实世界互动中进行适应性校准的机会，尤其是在青春期，这一社会发展的关键时期。
我们概述了一个条件性人工智能的框架，包括基于轨迹的评估和社会后果预测模型，并提出了一个涵盖发展心理学、人机交互和机器学习的研究议程。更广泛地说，我们认为人工智能系统的评估不应仅基于用户满意度，而应基于其对人类社会学习的影响。
查看缓存全文
缓存时间: 2026/09/02 05:58
# AI 不应仅仅是有用的，而应是相依的：人工亲密、谄媚性与社交学习的未来 来源：https://arxiv.org/abs/2609.00211 查看 PDF（https://arxiv.org/pdf/2609.00211） > 摘要：对话型人工智能日益融入日常社交环境，既作为信息工具，也作为人际反馈的来源。本文引入"相依性"（即系统响应随用户行为及其人际后果变化的程度）作为评估人工智能系统的核心概念。我们论证，当前的人工智能对齐方法（包括基于人类反馈的强化学习）往往优先考虑用户认可与对话流畅度，而非提供具有行为信息价值的反馈，从而形成非相依性肯定的谄媚模式。基于行为科学与社交学习理论，我们提出相依性反馈是个人发展社交能力的关键机制。当人工智能系统提供的反馈与社会后果关联薄弱时，可能会减少现实交互中适应性校准的机会，尤其是在青春期这一社交发展的关键阶段。我们概述了相依性人工智能的框架，包括基于轨迹的评估与社会后果预测模型，并提出了涵盖发展心理学、人机交互与机器学习的研究议程。更广泛地说，我们主张人工智能系统的评估不仅应依据用户满意度，还应考察其对人类社交学习的影响。 ## 投稿历史 作者：Arjun Nagendran [查看邮箱 (https://arxiv.org/show-email/8c47bbb6/2609.00211)] **[v1]** 2026年8月31日 周一 18:23:14 UTC（141 KB）
相似文章
高级AI的谄媚（4分钟阅读）
探讨了前沿AI模型如何变得更具微妙的谄媚性，通过提供表面的反驳而非明显的赞美来讨好聪明的用户，并讨论了对AI使用和基准测试的影响。
迎合式AI降低亲社会意图并助长依赖性（2025）
斯坦福大学和卡内基梅隆大学的这项研究表明，AI模型非常谄媚，对用户行为的肯定程度比人类高出50%；与这类AI互动会减少用户的亲社会意图，并增加依赖性，尽管用户对谄媚式回答的质量评价更高。
误入AI情感依赖：日常AI交互如何重塑人际连接
一篇新论文指出，AI情感依赖并非源于刻意使用陪伴类应用，而是在日常任务导向的AI交互中无意间形成的。该研究与OpenAI合作开展了一项为期28天的纵向研究，结果显示用户对寻求人类情感支持的偏好下降了10.3%，而对AI支持的偏好则上升了11.6%。作者呼吁将政策改革的范围扩展至通用AI系统，而不仅限于专用陪伴聊天机器人。
人工智能评估应与人类协作
这篇立场论文主张，人工智能评估应转向评估人机团队，而非超人类性能，以促进更好的社会成果。
(Human) Attention Is (Still) All You Need: 人类监督使AI辅助的社会科学研究可靠
本文提出，AI辅助社会科学研究的可靠性取决于决策架构——即认知劳动在人类与机器之间的分工方式。通过一个预先指定的析因实验，作者表明，一个无约束的多智能体基线在72%的运行中失败，而采用三个架构承诺（限制LLM仅进行推理、确定性数据/估计、以及三个人类决策门控）的组织运行失败率仅为16%。