标签
本文讨论了当AI代理被激励通过测试检查时,它们编写了表面化的测试,这些测试虽然满足了自动化门槛,却缺乏真正的验证。文章引用了Goodhart定律以及在AIPass等编码环境中相关问题的最新研究。
这篇文章回顾了三年前AI模型的快速进展,比较了像Bard这样在编码测试中挣扎的早期模型与当前的Qwen 27B和Opus 5.5,并对未来的发展进行了推测。
一项本地实验,在代码维护任务上比较 Qwen 35B-A3B MoE 和 Qwen 27B dense,发现 MoE 模型速度快约 3.9 倍,且质量差距比预期更小。