activation-control

本文介绍了激活可控性基准测试，用于衡量大型语言模型通过自然语言指令调节其残差流的能力，发现大多数模型都能在一定程度上做到这一点，这可能会逃避基于激活的监控方法，并对人工智能安全构成风险。