我在开放模型上测试了Anthropic的新Jacobian Lens，然后它变成了一个本地模型幻觉路由器

Reddit r/LocalLLaMA 2026/07/07 15:15 工具

anthropic jacobian-lens hallucination-detection local-models open-source interpretability ai-safety

摘要

作者在开放模型上测试了Anthropic的Jacobian Lens，然后它演变成了一个用于检测AI幻觉的本地模型幻觉路由器

暂无内容

查看原文

相似文章

X AI KOLs

Anthropic与Neuronpedia合作，发布了Jacobian Lens，这是一个在开放权重模型上解释其方法的交互式演示。

X AI KOLs Following

受Anthropic的JSpace论文启发，提供了一个Jacobian-lens视角的语言模型表示公开演示，允许用户跨层和令牌探索模型内部。

X AI KOLs Timeline

Anthropic的新研究引入了'J-lens'，一种在输出前读取Claude内部激活的方法，揭示了一个在功能上类似于人类全局工作空间理论的安静工作空间。这允许检测隐藏的推理、目标以及提示注入等潜在安全问题。

Reddit r/LocalLLaMA

Anthropic 发表了关于内部模型推理的研究，发布了 J-Space 透镜代码以及在 Qwen 3.6 27B 上的演示。

X AI KOLs

Anthropic的新研究发现语言模型中存在一个类似于人类大脑意识处理的'全局工作空间'，发现了一个类似于意识和无意识思维的分界。