agent-drift

Gergely Orosz 指出，在AI代理的上下文窗口中使用更多上下文进行更长的运行会增加错误和漂移，建议使用更短的运行和更少的上下文以提高可靠性。

本文详细介绍了DexOS，一种新颖的AI Agent架构，它利用本地加密治理运行时和状态机来防止Agent漂移，摒弃了对系统提示和RLHF的依赖。

AgentOS 和 Apodex 1.0 引入了一个用于长周期智能体任务的运行时和开放权重模型家族，通过独立验证来防止智能体漂移。该平台包含怀疑性子智能体，并在复杂基准测试中取得了高分。