circuits

本文提出Targeted Parameter Decomposition (tPD)方法，可针对特定输入选择性地从神经网络中恢复可解释的权重空间机制，相比全分解大幅降低计算需求。通过在玩具模型和Transformer语言模型上的验证，tPD能够忠实地恢复电路并进行手术级消融，且副作用极小。

一位创客分享的初级电子学路线图，他从不知道如何点亮一个LED，到制造探测车并赢得黑客马拉松。它涵盖了理解电路、使用Arduino以及构建实际项目。

本文研究神经网络的精确认证问题，表明即使在最小过参数化下，认证对于深度≥2的阈值电路和对数精度Transformer也可能变得指数级困难。它还描述了近似认证，揭示了允许多项式级错误仍然需要指数级规模的证书。

本文评估了语言模型电路的一致性与特异性，发现虽然电路在任务内部具有一致性，但由于不同任务间存在大量重叠，它们缺乏任务特异性。