@kdariina：为什么嵌入模型难以实现绑定——多对象理解的核心要求？我们发现物体……

X AI KOLs Timeline 论文
embedding-models binding multi-object-understanding linear-representation research

摘要

本线程讨论了一项发现：嵌入模型在绑定（多对象理解的核心要求）方面存在困难，而解决这一问题需要超越线性表示假说。

为什么嵌入模型难以实现绑定——多对象理解的核心要求？ 我们发现物体不会分解为简单的组成部分。绑定是可能的，但需要超越线性表示假说。 与@a_uselis共同领导 🧵👇 https://t.co/VzTAXB7cGN
查看原文
查看缓存全文

缓存时间: 2026/07/01 14:09

为什么嵌入模型在“绑定”这一多对象理解的核心要求上表现不佳？

我们发现对象并不会分解为简单的组成部分。绑定是可能的，但需要超越线性表示假设。

与@a_uselis 共同主导 🧵👇 https://t.co/VzTAXB7cGN

相似文章

嵌入模型如何绑定概念？

Hugging Face Daily Papers

本文探讨了CLIP为何在概念绑定上表现不佳，表明虽然CLIP的绑定函数复杂度高，但受控的Transformer模型可以通过乘法交互学习复杂度较低的绑定函数，从而更好地泛化。

模型能建模，但不能绑定：文本到优化中的结构化接地

arXiv cs.LG

本文介绍了Text2Opt-Bench，一个可扩展的文本到优化基准，并发现大语言模型在“绑定”（问题数据接地）方面存在困难，而非“建模”（选择优化结构）。作者提出了BIND，一种简单的推理时方法，将数值数据外部化，显著提高了各模型的准确率。

Vision-Language Models are Fragile Multilingual Associators

arXiv cs.CL

This paper introduces M2BIND, a benchmark to evaluate whether vision-language models maintain stable visual-linguistic associations across languages. It finds that binding is not language-invariant, with cross-family and cross-script settings causing significant performance collapse and weaker internal causal binding.

语言模型中基于单元的关系绑定表示

arXiv cs.CL

研究表明，大型语言模型通过“基于单元的绑定表示”（CBR）对篇章级关系绑定进行编码：一种低维线性子空间，每个“单元”对应实体-关系索引对，为模型如何追踪实体与关系提供了因果证据。