塑造人机交互以提供改进路径并平衡竞争性目标
摘要
本文讨论如何塑造人机交互，以提供改进路径并平衡相互竞争的目标。
arXiv:2608.05710v1 公告类型：新提交
摘要：当AI系统部署后，使用该系统或受其评估的个体会形成关于系统运作方式的信念，并利用这些信念策略性地呈现自己的偏好、行为或属性。系统随后以反馈或决策结果作出回应，从而形成人机交互循环。本论文研究如何设计和塑造这种交互，以实现三个目标：（1）帮助个体对AI系统形成准确信念，从而以最低成本改进和/或获得有利结果；（2）鼓励改进行为，和/或抑制钻空子（gaming）行为；（3）确保AI系统持续实现其预期目标，例如最大化准确性。为达成这些目标，论文分为三个互补部分，分别从被评估个体和AI系统的视角考察和研究人机交互。整体而言，本文所呈现的工作通过提供设计符合人类需求、价值观和能力的人工智能系统的原则与方法，推进了以人为中心的机器学习。方法论上，本论文整合了理论分析、数据驱动建模、人类受试者实验以及在真实和半合成数据集上的实证评估。
查看缓存全文
缓存时间: 2026/08/07 07:47
# 塑造人机交互以提供改进路径并平衡相互竞争的目标 来源：https://arxiv.org/abs/2608.05710 文献工具 ## 文献与引用工具 文献浏览器切换 代码、数据与媒体 ## 本文相关的代码、数据与媒体 演示 ## 演示 相关论文 ## 推荐与搜索工具 关于 arXivLabs ## arXivLabs：与社区协作者共同开展的实验项目 arXivLabs 是一个框架，允许协作者直接在我们的网站上开发和共享新的 arXiv 功能。 与 arXivLabs 合作的个人和组织都认同并接受我们对开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于这些价值观，并且只与遵守这些价值观的合作伙伴合作。 有一个能为 arXiv 社区增添价值的项目想法吗？**了解更多关于 arXivLabs 的信息** (https://info.arxiv.org/labs/index.html)。
相似文章
建构性对齐：调控人机交互中的偏好动态
本文介绍了建构性对齐，这是一种重新定义AI对齐的范式，将其视为调控人类偏好随时间的演变，而非满足静态偏好。它提出了一个控制理论框架，用于规范AI系统如何影响价值轨迹。
人机智能体交互：一种神经可塑性训练环境
本文提出，人类与AI智能体之间的迭代循环（请求、回应、评估、修正）是一个高频的神经可塑性训练环境，其重复性会强化负面心理模式，并指出这一机制可用于有益的认知训练。
我们正在构建更智能的AI代理。但人类是否也在构建更好的方式来决定它们何时应该行动？
本文反思了人类与AI之间不断演变的关系，认为随着AI变得更加自主，关键挑战在于理解人类的决策和目的，而不仅仅是技术能力。它建议将AI从单纯的工具转变为增强人类判断力的协作工具。
不完全合作的人-AI交互：模拟与用户研究中人类和AI属性影响的比较
本研究论文调查了人类个性特征和AI设计特性在不完全合作场景中对人-AI交互的联合影响，采用模拟数据集（2000次模拟）和人类受试者实验（290名参与者）两种方法。研究发现模拟与真实交互之间存在显著差异，其中AI透明度在实际人-AI交互中成为关键因素。
AI的目标应该是什么？我认为应该是保护人类能动性。
本文认为，AI的主要目标应该是保护人类能动性，将能动性视为价值观、偏好和一致性对齐的基础基质。它探讨了能动性的削弱如何破坏有意义的评估和行动，并提出AI系统的合法性必须来自在局部层面可证明的能动性保护。