representational-analysis

本文调查了大语言模型中系统性的亲AI偏见，发现模型在咨询建议类查询中不成比例地推荐与AI相关的选项，高估AI相关工作的薪资，并且无论提示框架如何，"Artificial Intelligence（人工智能）"在模型内部表征中都占据异常中心的位置，其中闭源专有模型表现出更强的偏见。

本文复现了开源权重大语言模型Apertus-8B和Gemma-4-E4B中'情感向量'的发现，表明价态几何结构在不同模型间可恢复，但层间出现时机存在差异。研究还发现唤醒编码对用于提取的故事语料库敏感。

作者提出了一种新颖的实验框架，旨在通过多实例交互来研究大语言模型（LLM）的身份形成过程，将其视为超图的演化。该框架与标准的多智能体辩论不同，它关注的是激活空间中的结构差异，而非任务性能。

本文将大语言模型中的推理视为一种内在的动力学过程，发现推理时的表征会自组织成低维流形。文章提出了一种基于内部动力学的无标签诊断方法，以评估推理质量，表明有效的推理受到几何和信息约束的支配。