从消费到反思：设计人机关系以实现稳定推理

arXiv cs.AI 论文
human-ai-interaction reasoning reflection ai-safety cognitive-architecture inference-time

摘要

本文引入了关系反思智能（RRI），这是一个推理时治理层，通过可审计的推理循环来稳定人机推理，解决了人类和大语言模型共有的认知弱点。

arXiv:2606.11195v1 公告类型：cross 摘要：大型语言模型（LLM）改变了人类获取信息的方式，但并未改变我们利用信息进行推理的方式。它们的流畅性加速了消费过程，却绕过了支撑明智判断所需的缓慢、反思性过程。本文引入了关系反思智能（RRI），这是一个推理时治理层，通过可审计的推理循环将反思付诸实践。RRI不在模型内部运行，而是围绕模型运行，为人类与LLM之间稳定、可审计的推理提供了实用结构。 核心前提是，LLM继承了与塑造人类思维相似的认知弱点：依赖直觉捷径、混淆表征与现实、偏好连贯性而非证伪。当人类和模型共享这些倾向时，它们的错误会叠加。我们称之为关系漂移，这是一种源于交互而非模型本身的故障。解决这一问题需要从建模词之间的关系转向构建模型输出与人类推理之间的关系。 RRI通过三个组件提供了这一缺失的层：Rose-Frame，用于识别推理中可能的中断；Architect's Pen，在关键时刻引入有针对性的反思步骤；以及一个推理时工作流，在不重新训练模型的情况下嵌入这些步骤。这些元素共同将人机交互转变为一个联合推理系统，具有显式检查点、冲突暴露和可审计的假设追踪轨迹。 RRI不是让机器像人类一样思考，也不是强迫人类像机器一样推理，而是创建一种结构化交互，使双方互补彼此的局限性。它将AI安全重新定义为认知架构问题，其中可靠决策依赖于将反思直接嵌入交互过程。
查看原文
查看缓存全文

缓存时间: 2026/06/11 13:53 

# 从消费到反思：为稳定推理设计人机关系
来源：https://arxiv.org/abs/2606.11195
查看 PDF（https://arxiv.org/pdf/2606.11195）

> 摘要：大型语言模型（LLMs）改变了人类获取信息的方式，却未能改变我们运用信息进行推理的方式。其流畅性加速了信息消费，却绕过了支撑可靠判断所需的缓慢、反思性过程。本文引入关系反思智能（Relational Reflective Intelligence, RRI），一个在推理时运作的治理层，通过可审计的推理循环将反思操作化。RRI 并非在模型内部运行，而是围绕模型运行，为人与 LLM 之间的稳定、可审计推理提供了实用框架。核心前提是：LLM 继承了与人类思维相似的认知脆弱性——依赖直觉捷径、混淆表征与现实、偏好一致性而非证伪。当人类与模型共享这些倾向时，它们的错误会相互叠加。我们将此称为关系漂移（relational drift），这是一种源于交互而非模型本身的问题。解决这一问题需要从建模词与词之间的关系，转向结构化模型输出与人类推理之间的关系。RRI 通过三个组件提供了这一缺失的层：Rose-Frame（识别推理中可能的断裂点）、Architect's Pen（在关键时刻引入针对性的反思步骤），以及一个无需重新训练模型即可嵌入这些步骤的推理时工作流。三者共同将人机交互转变为一个联合推理系统，具备明确的检查点、冲突揭示以及可审计的假设轨迹。RRI 并非让机器像人类一样思考，也非强迫人类像机器一样推理，而是构建一种结构化交互，使双方相互弥补彼此的局限。它将 AI 安全重新定义为认知架构问题——可靠的决策取决于将反思直接嵌入交互过程本身。

## 提交历史

来自：Rikard Rosenbacke [查看电子邮件（https://arxiv.org/show-email/fcd7f84f/2606.11195）] **[v1]** 2026年4月17日 星期五 08:37:16 UTC（583 KB）

相似文章

AIPO：通过与主动交互学习推理

arXiv cs.CL

本文介绍了 AIPO，一种强化学习框架，通过允许模型在探索过程中主动咨询协作智能体，从而克服能力边界，提升大语言模型的推理能力。

通过改变理性度来缓解RLHF中的认知偏差

arXiv cs.AI

本文提出了一种通过基于大型语言模型（LLM）对标注者可靠性的评估来动态调整理性度参数，从而缓解人类反馈强化学习（RLHF）中认知偏差的方法。