使用双曲几何将LLM学到的概念映射为可浏览树结构的开源工具
摘要
HyperSAE是一个开源Python库,利用双曲几何将LLM学到的概念组织成可浏览的树状结构,改进了扁平的特征列表。它捕获了Gemma-2-2B模型99.8%的特征,并包含交互式演示。
相似文章
HyperGuide:大型语言模型中高效多步推理的双曲引导方法
本文提出HyperGuide方法,将推理进展提炼为双曲几何信号,以指导LLMs的逐步生成,从而无需显式树搜索即可提高多步推理效率。
Shaped SAEs:扩展机制可解释性的工具箱
该论文提出了 Shaped SAEs,包括一种 Matched Filter SAE(MF-SAE),它通过基于 Jacobian 的降秩变换对 LLM 激活进行线性整形,再学习稀疏自编码器,以提升字典原子的语义选择性,并在 SAEBench 和 SAE Probes 上进行了评估。
SAGE: 模式引导的大型语言模型用于资助评审
SAGE 是一个模式引导的系统,使用大型语言模型通过结构化评分标准并链接证据来自动化资助评审,并采用人在回路验证以提高准确性。
我构建了一个探索 LLM 内部机制的工具,融合了 jspace、j++、LARQL/VINDEX 和 Cammarata 神经元极点的最新研究
我构建了一个开源工具,用于探索 LLM 内部机制,结合了 jspace、j++、LARQL/VINDEX 和 Cammarata 神经元极点的相关研究,已在 GitHub 上以 logos-theodolite 开源发布,其 j-lenses 最初是为 gemma4-31b 适配的
HSG:双曲场景图
# 论文页面 - HSG:双曲场景图 来源:[https://huggingface.co/papers/2604.17454](https://huggingface.co/papers/2604.17454) 在你的 agent 中获取这篇论文:`hf papers read 2604\.17454` 还没有最新的 CLI?`curl \-LsSf https://hf\.co/cli/install\.sh \| bash` ## 引用本文的模型0 暂无模型关联此论文 在模型的 README.md 中引用 arxiv\.org/abs/2604\.17454,即可从此页面链接到它\. ## 引用本文的数据集0 暂无数据集关联此论文 引用 arxiv\.org/abs/2604\.