probes

本文识别了AI模型真值探针中的'完美混叠'现象，即在顺从语境下训练的探针无法区分真实情况与预设操作，并展示了混合语境训练能提升检测效果。

本文研究了大型语言模型（特别是 Llama-3.1-70B-Instruct）中自发与指示欺骗之间的关系，发现两种设置在检测和因果关系上存在不对称性。

本文解释了Kubernetes探针（包括启动探针、就绪探针和存活探针）如何协同工作以提升应用程序的弹性，并通过交互式演示展示其功能。

GoodfireAI分享了关于使用探针改进LLM校准和检测推理忠实度的研究，以及一场使用其产品Silico通过参数分解进行定向微调的黑客马拉松。

作者询问如何分析神经网络中探针的相对“强度”，讨论了词汇量有限和模型容量等挑战，并以Google Gemini为例说明了失败情况。

这项研究提出了探针目标微调（LoRA）方法，使LLM能够口头表达其内部置信度，实现了对置信度输出的因果控制，并证明模型通常知道自己是正确还是错误，但未能表达出来。