论文页面 - 扩散语言模型智能体之间的隐藏消息：潜在通信的因果证据

来源: https://huggingface.co/papers/2610.28905

摘要

扩散语言模型智能体可以交换压缩的连续隐藏消息，这些消息对推理具有因果影响，而消息传递的时机有时比反复交换更为重要。

扩散语言模型（https://huggingface.co/papers?q=Diffusion%20language%20models）通过一系列可修改的连续状态来形成答案，但多智能体系统（https://huggingface.co/papers?q=multi-agent%20systems）通常会丢弃这些状态，仅在解码文本后才让智能体之间进行交流。我们探究了一条独立的扩散轨迹是否能将一条紧凑的隐藏消息传递给另一条轨迹，以及更关键的是，接收方是否真正利用了该消息的含义。在 Hidden Messages（隐藏消息）（https://huggingface.co/papers?q=Hidden%20Messages）方法中，发送方将其去噪状态（https://huggingface.co/papers?q=denoising%20state）压缩为四个带符号的稠密向量；接收方在保留自身上下文、画布和轨迹的同时消费这些向量。移除消息可以检验该通道是否重要；将其替换为来自其他样本的消息则可以检验消息内容是否重要。在受控任务中，错位替换（derangement）消除了 Tiny-A2D 上 +63.6 分和 Dream-7B 上 +100.0 分的优势，而针对性替换则将接收方引向被替换的事实。在 QASC 任务中（两条支撑事实被分配给不同智能体），匹配的通信使准确率达到 80.8%，而错误样本的消息将准确率降至 46.8%，内容效应为 +34.0 分。最令人意外的结果出现在时间维度上：单次后期传递即可达到 87.8%，比四轮反复交换高出 +7.0 分。这些实验为扩散语言模型智能体之间的连续隐藏通信（https://huggingface.co/papers?q=continuous%20hidden%20communication）提供了因果证据，并表明信息传递的时机可能比交换次数更为重要。

查看 arXiv 页面 (https://arxiv.org/abs/2610.28905) 查看 PDF (https://arxiv.org/pdf/2610.28905) GitHub2 (https://github.com/alanrbtx/hidden-messages-diffusion-agents) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.28905)

在您的智能体中获取此论文：

hf papers read 2610.28905

尚未安装最新版 CLI？ curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无关联此论文的模型

在模型 README.md 中引用 arxiv.org/abs/2610.28905 即可从此页面链接该模型。

引用此论文的数据集 0

暂无关联此论文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2610.28905 即可从此页面链接该数据集。

引用此论文的 Spaces 0

暂无关联此论文的 Space

在 Space README.md 中引用 arxiv.org/abs/2610.28905 即可从此页面链接该 Space。

收录此论文的合集 0

暂无收录此论文的合集

将此论文添加到合集（https://hf.co/new-collection）即可从此页面进行链接。