我将一个真实产品交给AI系统，让它自我改进，这是实际发生的情况

Reddit r/ArtificialInteligence 工具
autonomous-system self-improving ai-workflow quality-gate pull-request rollback trustworthy-autonomy

摘要

作者构建了一个自主AI系统，运行真实产品，生成工作内容、进行质量把关、发起拉取请求，并基于分析结果自我改进。主要挑战在于让系统值得信赖，而非让模型更聪明。

我构建了一个系统，几乎无人干预地运行真实产品。它生成工作内容，依据评分标准进行质量把关，为每项工作发起拉取请求，分发被合并的内容，然后读取生成的分析结果，并为自己的流程提出改进建议。它自身的代码变更也以相同方式提交。我唯一做的就是决定合并哪些内容。让我惊讶的是，困难之处很少与模型的智能程度有关。写作和决策都很好。真正需要下功夫的是让自主性值得信赖：确保每次运行不会默默等待人工介入，每次运行都能报告成功或失败，每个有风险的变更都有回滚机制。产品本身几乎无关紧要。该项目实际产出是一个可复用的机器，能够观察、决策、行动和验证。完整文章：[如何构建一个自主编码、运行并自我改进的AI系统](https://fatihkoc.net/posts/ai-system-that-improves-itself/) 如果你曾将真实工作流交给自主系统，是什么让你确信可以放心地不再监控它？
查看原文

相似文章

我构建了一个不仅能完成任务，还能自我改进管道的智能体

Reddit r/AI_Agents

作者构建了一个自主智能体，不仅能完成任务，还能通过观察结果、通过拉取请求进行更改，并使用账本验证每个更改来改进自身的代码和产品。关键洞察在于，一个严格的验证步骤——得出确认、拒绝或不确定的结论——对于系统真正学习至关重要。