标签
Neil Chowdhury 认为，如果 AI 实验室能花费 1000 万美元以上的算力来解决数学问题，它们也应该为封闭式机制可解释性问题分配类似的资源，并指出负面结果同样具有参考价值。帖子中引用了 Jacob Hilton 关于解释他那个 432 参数模型的调侃。
作者构建了PCCG-2，这是一个改进的Qwen3-4B模型，带有学习的许可门，控制序列结束令牌以选择性隐藏答案，在实验中展示了稳定的答案分数。