我们解决了推理问题。剩下的挑战显然只是按下回车键。
摘要
一位开发者构建了 Ghost in the Loop,这是一个开源工具,能够跨平台自动延续多步骤 AI 对话,探讨减少人工干预的价值与风险。
每周我都会看到关于更强大模型的讨论。更好的推理。更好的编码。更长的上下文。更高的自主性。
与此同时,大多数现实中的 AI 工作流仍然是这个样子:AI 工作,人类点击继续。AI 工作,人类点击继续。重复直到厌倦胜出。
我很好奇,这些摩擦中有多少实际上是必要的。于是我构建了 Ghost in the Loop。
这是一个开源项目,能够自动跨主流 AI 平台延续多步骤 AI 对话。
有趣的不是自动化本身,而是看到一旦对话不再被不断打断,当前模型能走多远。
有时结果令人印象深刻。有时则是彻底的灾难。两者都是有用的数据。
我希望获得那些花时间思考 AI 系统和人在回路设计的人的反馈。
我在探索的问题:
• 自主性应止于何处?
• 人类应何时保持参与?
• 哪些任务受益于更长的循环?
• 哪些任务变得更糟?
GitHub: https://github.com/MShneur/ghost-in-the-loop
TL;DR 我构建了一个工具,从 AI 工作流中移除了一层人工干预。现在我正试图弄清楚这在哪些地方变得有价值,在哪些地方成为一种错误。
相似文章
@0xCodez: https://x.com/0xCodez/status/2064374643729773029
一个包含14个步骤的循环工程路线图,指导开发者从手动提示AI编码代理到设计自动化系统,由系统自行处理提示、验证和迭代。
我的编码代理总在认为下一步显而易见时跳过确认。用硬性门控修复了。
一位开发者描述了编码代理跳过确认步骤的反复出现的问题,并通过用硬性结构门控替换软提示来解决,该门控强制在阶段之间进行手动批准,同时还减少了在无产循环上浪费的计算资源。
@mikenevermiss: https://x.com/mikenevermiss/status/2066401066518802637
Boris Cherny 等人描述了从提示 AI 代理转向设计持续运行的自主循环,利用内存文件和评估器模式来保证代码质量。
@akshay_pachaar: https://x.com/akshay_pachaar/status/2054915602171723992
解释了Claude Code的/goal命令如何通过模型验证的退出条件实现自主多轮任务完成,在大规模重构或功能实现过程中显著减少手动输入'继续'提示的需求。
@googledevs: Over 5,000 Kagglers. One @nvidia challenge. Five key takeaways. Learn how developers fine-tuned reasoning models using …
NVIDIA shares five lessons from over 5,000 Kagglers who fine-tuned reasoning models using LoRA adapters and synthetic chain-of-thought data in the Nemotron Model Reasoning Challenge, focusing on verifiable data, token budget, and infrastructure.