@AnthropicAI：我们还与Neuronpedia合作，在开放权重模型上创建了我们方法的交互式演示。在此尝试：
摘要
Anthropic与Neuronpedia合作，发布了Jacobian Lens，这是一个在开放权重模型上解释其方法的交互式演示。
查看缓存全文
缓存时间: 2026/07/06 18:18
我们与Neuronpedia合作，为开放权重模型构建了我们的方法交互式演示。
在此尝试：https://t.co/hkmYl0IOn2
雅可比透镜
来源: https://www.neuronpedia.org/jlens © Neuronpedia 2026
隐私与条款 (https://www.neuronpedia.org/privacy) 博客 (https://www.neuronpedia.org/blog) GitHub (https://github.com/hijohnnylin/neuronpedia#readme) Slack (https://join.slack.com/t/opensourcemechanistic/shared_invite/zt-3z9o0hxjl-MDX9pbATO2qESOazNDLpdQ) Twitter (https://twitter.com/neuronpedia) 联系我们 (https://www.neuronpedia.org/contact)
相似文章
@arafatkatze: 受Anthropic的JSpace论文启发，我们@cline利用@modal搭建了一个公开演示，任何人都可以观看一个Jacobian-lens视角…
受Anthropic的JSpace论文启发，提供了一个Jacobian-lens视角的语言模型表示公开演示，允许用户跨层和令牌探索模型内部。
@julien_c：Anthropic 基于 Qwen 发布开源演示（与 @neuronpedia 合作），这出乎我的意料
Anthropic 与 Neuronpedia 合作，基于 Qwen 模型发布了开源交互式演示。
@AnthropicAI：为了支持其他研究人员获得NLA的实践经验，我们与Neuronpedia合作，在…上发布了NLA
Anthropic与Neuronpedia合作，在开放模型上发布了自然语言自编码器（NLAs），使研究人员能够获得这种可解释性工具的实践经验。
我在开放模型上测试了Anthropic的新Jacobian Lens，然后它变成了一个本地模型幻觉路由器
作者在开放模型上测试了Anthropic的Jacobian Lens，然后它演变成了一个用于检测AI幻觉的本地模型幻觉路由器
OpenAI Microscope
OpenAI Microscope 是一个开源工具，能够系统地可视化常用视觉模型中的每个神经元，具备快速反馈循环和可链接的神经元，以支持可解释性研究。该平台将可视化时间从几分钟缩短到几秒，旨在使神经网络分析对研究社区更加易于访问。