构建自进化代理时我做的3个不同选择——以及每个的实际成本

构建一个开源代理，以下是我押注的3个不同寻常的ReAct循环方案： 1. 带适应度信号的自进化。大多数“学习”代理只是记录发生的一切。我的代理仅在验证结果加上诚实A/B测试证明它能提升通过率时，才保留学习到的变更——基于实际工作树差异进行限门，绝不依赖模型的自我报告。成本：你需要一个评分器，并且接受更少、更慢的“学习”。 2. 通过架构实现安全，而非依赖提示乞求。提示注入被视为在提示层无法修复，因此采用：端到端污点追踪（受污染运行中产生的记忆/技能不会自动晋升）、一个隔离读取器，将不可信内容转化为经过模式验证的字段后再由特权代理查看，以及一个在污染状态下收窄的工具白名单。实测红队攻击成功率为从100%降至约14%（并非“安全”——只是一个数字）。成本：一些合法内容会被过度限制。 3. 诚实的基准测试。我发布置信区间和仍然失败的案例，不重新运行以制造统计显著性。成本：数字看起来不如精心挑选的演示那么亮眼。推理核心是一个融合面板（面板→评判→合成），位于成本感知路由器之后。Apache-2.0，仍处于alpha阶段。仓库链接在评论中——欢迎对安全声明进行压力测试。