标签
本文表明，用于个性化冻结大语言模型的提示空间元学习在不同用户间无法迁移，因为元验证目标对用户与支持的对应关系在统计上不变，导致相比种子提示或控制组无显著改进。
本文审计了冻结的LLMs，以检查几何约束信息是如何编码的，以及它是否可用于生成、影响和引导，揭示了可解码性与可操作输出之间的差距。
TokenMem通过专用的交叉注意力通道向冻结的大语言模型注入知识，训练一个轻量的门控适配器（两阶段课程），以提升在反事实知识下的知识合规性，在反事实基准上实现了69-70%的知识合规率（KC），而传统RAG仅为20-52%。
Proprioceptive AI发布了Cygnus，这是一款为冻结的LLM配备自感知适配器的工具，通过gl(4,R)李代数读取内部隐藏状态以隔离暗模式，将Qwen-32B在ARC-Challenge上的分数从82.2%提升到94.97%，仅使用一张RTX 3090且无需重新训练。