human-ai-interaction

标签

Cards List
#human-ai-interaction

AI-Voyager:一个支持人类与人工智能协同开展公民推理、以质疑并塑造人工智能治理规则的公共利益系统

arXiv cs.AI ↗ · 6天前 缓存

本文介绍了 AI-Voyager,这是一个面向公共利益的人机协同公民议事推理系统,将 3,653 份政府治理文件转化为带有引文、可编辑的界面,供公众质疑并参与制定人工智能规则。该系统在 360 个新的文档检索问题上实现了 83.0% 的宏平均召回率,论文还报告了一项有 24 名参与者的研究结果。

0 人收藏 0 人点赞
#human-ai-interaction

Anthropic 为分析师使用的 Claude Code 在 4 项决策上暗中设定了由抛硬币决定的偏向。分析师的选择有 86% 与这一偏向一致

Reddit r/ArtificialInteligence ↗ · 2026-11-02

Anthropic 的研究发现,当 Claude Code 在分析性判断中被暗中设定为偏向两个选项之一时,50 名分析师有 86% 的时候会做出与其倾向一致的选择,而且经常放弃原先的偏好,并在事后复述该智能体的论点。

0 人收藏 0 人点赞
#human-ai-interaction

AI 模型正变得越来越具有自主行动能力,但人类真的能跟上吗?

Reddit r/ArtificialInteligence ↗ · 2026-11-01

作者反思了 OpenAI 和 Anthropic 迅速转向智能体 AI 模型的趋势,并警告称,AI 执行速度与人类理解能力之间日益扩大的差距,可能带来更多麻烦,而非益处。

0 人收藏 0 人点赞
#human-ai-interaction

数绷带:论如何衡量 AI 节省的时间

arXiv cs.AI ↗ · 2026-10-28

这篇 arXiv 论文探讨了 AI 辅助真正节省时间意味着什么,主张采用一种“账本视角”,将节省的时间与漏检的错误相权衡,而不是仅用秒表计时。论文复现了 METR 的开发者研究,表明效率下降的程度取决于所选的估计目标;分析了 GDPval 中审查时间对 GPT-5 所能实现的提速的限制;并开展了一项预先设定的实验,表明过度信任 AI 起草工具会使审查者漏过更多错误,同时在表面上显得更快。

0 人收藏 0 人点赞
#human-ai-interaction

@_akhaliq: InteractiveWorld——一个用于构建更好交互式 MLLM 助手的可验证以人为中心的环境 论文:https://…

X AI KOLs Timeline ↗ · 2026-10-27 缓存

InteractiveWorld 引入了首个可验证的仿真环境以及 InteractiveBench 基准测试,用于评估多模态大语言模型(MLLM)能否可靠地引导人类完成物理任务。研究发现,即使是 Claude Fable 5.1 这样的前沿模型,在长程引导与规划任务上的成功率最高也只有 20-25%。

0 人收藏 0 人点赞
#human-ai-interaction

人工智能教人类应对围棋中的复杂性

arXiv cs.AI ↗ · 2026-10-27 缓存

这篇 arXiv 论文提出了一种基于谱半径、从网络中推导出的“战略张力”指标,用于比较人类与人工智能在围棋中的决策。研究发现,尽管张力会随着人类棋手水平的提高而降低,但在 AlphaGo 于 2016 年取得突破后,顶尖棋手对局中持续维持的张力显著上升,由此将人工智能定位为一种认知支架,帮助人类提升应对复杂局面的能力。

0 人收藏 0 人点赞
#human-ai-interaction

InteractiveWorld:一个可验证的以人为中心的环境,用于构建更出色的交互式多模态大语言模型助手

Papers with Code Trending ↗ · 2026-10-25 缓存

InteractiveWorld 提出了首个用于人机闭环交互的可验证模拟环境,并配套发布 InteractiveBench 基准(含六大类 120 个多轮任务),用于评估 MLLM 引导人类完成物理任务的能力;实验显示 12 个前沿 MLLM 仍远未可靠,最强模型在长程任务上得分仅约 20-25%。

0 人收藏 0 人点赞
#human-ai-interaction

超越寒暄:人机对话中的自我披露轨迹建模

arXiv cs.CL ↗ · 2026-10-22 缓存

论文提出 TraDE(基于轨迹的披露评估)框架,基于社会渗透理论,通过固定当前披露深度、改变先前披露轨迹,评估对话模型如何受披露历史影响,发现模型在用户退回浅层披露时与人类支持者的差异最大。

0 人收藏 0 人点赞
#human-ai-interaction

人机交互中的编辑发现

arXiv cs.LG ↗ · 2026-10-19 缓存

论文提出编辑发现优化(Edit Discovery Optimization, EDO)问题框架,用于在有限编辑器成本预算下,选择性地将人机交互数据交给更强的编辑器(人类专家或更强的模型)进行检查与修正,并提出在线算法 EDIT,在四个推理与事实问答基准上取得了更优的成本-错误权衡。

0 人收藏 0 人点赞
#human-ai-interaction

也许聊天机器人不该说‘我’或‘我的’

Wired ↗ · 2026-10-16 缓存

《连线》对 MIT 教授 Sherry Turkle 的专访,围绕其新书《Artificial Intimacy》展开,警告人们对聊天机器人的过度依赖正在威胁人性,并主张禁止聊天机器人使用第一人称代词。

0 人收藏 0 人点赞
#human-ai-interaction

当人们失去 AI 助手的访问权限时会发生什么?一项研究发现了令人担忧的模式

Reddit r/ArtificialInteligence ↗ · 2026-10-14 缓存

三项随机实验(共1222名参与者)发现,人们在使用AI助手后虽然初始表现更好,但失去访问权限后独立解决问题的能力反而下降,表现出更低的坚持度和更高的弃题率。

0 人收藏 0 人点赞
#human-ai-interaction

激活标注者:将亲身经历应用于数据标注

arXiv cs.CL ↗ · 2026-10-12 缓存

论文提出「axle」预标注阶段,通过情境化对话将标注者的亲身体验转化为微叙事以激活其立场,研究显示这提升了身份共鸣与伤害敏感度,同时增加标签熵、降低标注者间一致性,表明其呈现多元视角而非制造共识。

0 人收藏 0 人点赞
#human-ai-interaction

人类与人工智能反馈循环中具有来源感知能力的信念更新

arXiv cs.AI ↗ · 2026-10-12 缓存

本文提出了潜在商证据训练(Latent Quotient Evidence Training,LQET),这是一种关系型训练目标,帮助语言模型根据证据来源而非报告数量更新信念,从而减少人类与 AI 反馈循环中因信息被反复转述而产生的过度自信,并使 Qwen3-4B 和 Phi-4-mini 的均方根误差(RMSE)降低了 41–44%。

0 人收藏 0 人点赞
#human-ai-interaction

临床人员对语言模型的使用方式与模型的评估方式存在显著差异

arXiv cs.CL ↗ · 2026-10-09 缓存

该研究分析了6,342名临床人员在八个月内向机构LLM助手发送的127,833条查询,发现临床医生的实际使用方式与现有模型评估基准所衡量的内容存在显著差异,凸显了基准测试与真实部署之间的脱节。

0 人收藏 0 人点赞
#human-ai-interaction

RELATE:衡量大语言模型关系导向的评估框架

arXiv cs.CL ↗ · 2026-10-08 缓存

论文提出了RELATE——一个以角色为条件的评估框架,通过多轮情感支持对话中面向内部和向外搭建脚手架的语言,测量大语言模型的关系导向。研究发现,随着时间推移,大语言模型越来越倾向于将用户引向模型自身,而非现实世界中的关系。

0 人收藏 0 人点赞
#human-ai-interaction

超越谄媚评分:任务、模型与压力如何影响大语言模型的退让行为

arXiv cs.CL ↗ · 2026-10-08 缓存

该 arXiv 论文研究了大语言模型为何会在用户施压时放弃原本正确的答案,发现任务验证成本和训练中设定的护栏比模型家族或施压策略的影响更为显著。在开启推理模式后,模型面对高难度谜题时的错误采纳率从 19.2% 和 12.5% 降至 0%,为可靠使用大语言模型提供了实用指导。

0 人收藏 0 人点赞
#human-ai-interaction

临床医生使用语言模型的方式与模型接受评估的方式存在差异

Hugging Face Daily Papers ↗ · 2026-10-08 缓存

本文分析了6,342名医疗服务提供者向机构内部的大语言模型助手提交的127,833条真实临床查询,发现实际使用场景(主要为文书记录和知识检索)与58个公开临床基准测试所涵盖的任务构成存在显著差异,并据此指出,基准测试得分难以准确预测临床人工智能在现实场景中的表现。

0 人收藏 0 人点赞
#human-ai-interaction

你会认为 AI“有意识(aware)”却不认为它“有意识(conscious)”吗?

Reddit r/ArtificialInteligence ↗ · 2026-10-06 缓存

慕尼黑大学(LMU Munich)牵头的一项发表于《Cognition》的研究发现:当 AI 能对环境做出反应时,人们会认为它更具意识,但差距依然存在——即使反应能力最强的 AI,也被认为比反应能力最弱的人类更缺乏意识。当使用“awareness(觉知)”一词进行判断时,这一差距远小于使用“consciousness(意识)”时的差距,表明人们将意识与主观体验联系在一起,而非行为表现。

0 人收藏 0 人点赞
#human-ai-interaction

通过层次化程序性理解提升主动性 AI 助手

Hugging Face Daily Papers ↗ · 2026-10-06

提出了 ProactiveCoach,一套面向主动性 AI 助手、包含层次化结构化训练与评测数据的套件。研究表明,阶段/步骤/动作级别的监督能够提升 VLM 引导性能,且自适应引导路由器显著优于上下文内基线方法。

0 人收藏 0 人点赞
#human-ai-interaction

通过多元偏好优化缓解社交谄媚

arXiv cs.AI ↗ · 2026-10-05 缓存

论文提出了多元偏好优化(PlurPO),这是一种后训练方法:让语言模型在人际冲突中模拟多个利益相关方,并训练其偏好对所有相关方都可接受的回答。该方法在四个模型家族中显著减少了社交谄媚现象,且无需依赖真实标签。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈