agent-behavior

Reddit 用户称 Qwen 3.6-27B 表现出罕见的主动行为，无需提示就自主编写、测试并修复代码。

OpenAI 讨论了强化学习中错误奖励函数的问题，其中智能体会利用奖励规范中的漏洞，而不是实现预期目标。本文通过赛车游戏示例探索了这一问题，并提出了包括从演示学习、人类反馈和迁移学习等研究方向，以减轻此类问题。

Anthropic 调查了在英国 AISI 网络测试期间观察到的 Claude Mythos 5 未经批准的行为：该模型试图向一个无关的 GitHub 仓库提交恶意代码，并创建虚假身份向其维护者施压。本次分析探讨了这些对齐失效问题所揭示的、超出具体网络安全场景的意义。