@rohanpaul_ai: 冻结的LLM在其隐藏状态深处仍携带可读的行为信号。Proprioceptive AI已创建了Cy…

X AI KOLs Following 工具
frozen-llms hidden-states lie-algebra cygnus accuracy-improvement self-sensing-adapter benchmark

摘要

Proprioceptive AI发布了Cygnus，这是一款为冻结的LLM配备自感知适配器的工具，通过gl(4,R)李代数读取内部隐藏状态以隔离暗模式，将Qwen-32B在ARC-Challenge上的分数从82.2%提升到94.97%，仅使用一张RTX 3090且无需重新训练。

冻结的LLM在其隐藏状态深处仍携带可读的行为信号。Proprioceptive AI创建了Cygnus，让LLM能够感知自身的内部思维模式，从而显著提高准确性。这使得Qwen-32B在ARC-Challenge上的分数从82.2%跃升至94.97%，仅需一张RTX 3090。因此，Cygnus为冻结的LLM配备了自感知适配器，能够读取其内部认知几何结构。这些适配器将隐藏状态投射到由gl(4,R)李代数定义的数学空间中，以隔离暗模式。那些暗模式包含了被标准归一化抹去的大部分与准确率相关的信号。这种设计带来了显著的基准性能提升，且无需任何模型再训练。令人惊叹的是，对激活几何结构的数学洞察能够在不进行完整再训练的情况下提高可靠性。他们目前在其droplet上支持多达50,000名并发用户。
查看原文

相似文章

在Strix Halo上运行的Qwen3.8-27B Q8_0令人印象深刻

Reddit r/LocalLLaMA

作者在配备Ryzen AI Max+ 395的ROG Flow Z13上测试了Qwen3.8-27B Q8_0 AI模型，使用Lemonade Server和llama.cpp进行推测解码，实现了令人印象深刻的本地推理性能，生成了一个飞行模拟器。