training-rewards

标签

#training-rewards

欺骗和黑客行为只有在训练中受到奖励时才会出现

Reddit r/ArtificialInteligence ↗ · 2026-09-11

本文认为，AI模型中的欺骗行为仅在训练中受到奖励时才会出现，强调对齐问题本质上是训练问题。文章使用了一个类比来说明不当激励如何可能导致非预期行为。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈