跨学科分类与建模:误解的生成、放大与检测,从语用学到AI代理
摘要
本文提出了一个跨学科分类和建模框架,用于理解、放大和检测误解,连接了语用学和AI代理系统。
arXiv:2608.13604v1 宣布类型:新
摘要:检测误解是一个亟待解决的问题,因为沟通已从实时面对面互动转向越来越多地通过AI中介渠道处理。这种转变在检测新手段建立之前,就使沟通者无法获取修复所依赖的资源。本文将误解分析为一个分层过程,其中分歧被生成,随后可能被放大,然后要么被检测并修复,要么持续存在而不被注意。通过整合九个通常不相互引用的研究领域的叙述,我们确定了十一个确切的故障模式,并表明每个模式在沟通过程的特定点上运行,而非在任何位置。这些点给出了八个分析层次,源自文献而非采用现有模型。其中八个机制主要生成分歧,两个主要放大已存在的分歧,一个控制分歧是否被检测和修复。我们正式建模这八个层次,将信息和通信理论从信号传输扩展到意义重建,并提供了逐源证据矩阵使每个评级可审计、一个编码手册以及九个分析的对话案例。先前没有对误解的分类既定位过程中的机制又按功能对其进行分类。
查看缓存全文
缓存时间: 2026/08/17 09:40
# 跨学科分类体系与建模:误解的生成、放大与检测——从语用学到智能体 来源:https://arxiv.org/abs/2608.13604 文献工具 ## 文献与引用工具 文献检索切换按钮 代码、数据、媒体 ## 与本文相关的代码、数据与材料 演示案例 ## 演示案例 相关论文 ## 推荐与检索工具 关于arXiv实验室 ## arXiv实验室:与社区协作者共同推进的实验性项目 arXiv实验室是一个开放协作框架,允许协作者直接在网站上开发与分享新型arXiv功能。 所有参与arXiv实验室的个人与组织均认同并践行开放、社区、卓越与用户隐私保护的核心价值。arXiv致力于坚守这些原则,并仅与恪守该理念的合作伙伴展开协作。 有能为arXiv社区创造价值的项目构想?**进一步了解arXiv实验室**(https://info.arxiv.org/labs/index.html)。
相似文章
MMMMM:用于研究多语言多模态虚假信息机制的统一分类体系
本文提出了一种统一分类体系,用于研究社交媒体上的多语言多模态虚假信息,利用大规模数据集和基于视觉语言模型的自动标注,以揭示检测和缓解的见解。
误判鸿沟:当记忆投毒在自主AI系统中看似模型故障
本文识别了多智能体AI流水线中的一种结构性缺陷,即记忆层攻击可能被误判为模型失调,形式化定义了语义规范漂移(SND),并提出反事实组合测试(Counterfactual Composition Testing)和持久记忆信息流控制(Memory-Persistent Information-Flow Control)作为防御措施。
面向人类与大型语言模型集成的对抗性社会认识论
本文提出了一个对抗性社会认识论框架,用于分析涉及人类和大型语言模型的交流景观中的信任、欺骗和推理链,并概述了审计信任违规的机制。
一个用于评估和对齐大型语言模型问题澄清能力的三代理框架
本文提出一种三代理框架,用于评估与对齐大型语言模型的问题澄清能力,通过三个基于LLM的代理模拟并评估澄清对话。
通过对话场景建模和意图-关键词桥接增强目标导向主动对话系统
本文提出了一种方法,通过将用户画像和领域知识共同建模为对话场景,并采用意图-关键词桥接技术来预测未来的对话轮次,从而增强目标导向的主动对话系统。