标签
Introspection是一家由前xAI工程师创立的新AI初创公司，它推出了'autoresearch'——一种反馈循环系统，智能体通过信号、评估和人类输入来维护并完善自身，超越了传统的智能体框架。
本文首次研究了概率校准作为缓解LLM代理反馈循环中评估者偏好耦合的方法，结果表明校准后的评估者判断将耦合系数降低了20-49%，散度降低了45-67%。
Anthropic 一位资深工程师发表了一篇 11 页的论文，提出构建代理系统的新范式，核心是反馈循环、隔离、验证和记忆，而非更聪明的提示词。
本文讨论了在AI时代构建原型和使用演示来实现功能产品市场契合度的重要性，并包含了Ruben Casas关于将高层次产品思维与动手实践相结合的观点。
谷歌和斯坦福的工程师发布的一份39页论文分析了使AI agent通过反馈循环自我改进的关键因素，并指出只有9%的agent实际运行了真正的循环。
一项分析指出，公司在人工智能方面失败的原因在于它们专注于模型，而非基础层——流程设计、治理、知识架构、人工判断和反馈循环——而这些才是真正的价值来源。文章引用了纳德拉的“令牌资本”概念、苹果可切换模型的Siri，以及显示战略与执行之间存在巨大差距的调查数据。
三篇独立来源的文章（学术论文、工程博客、创业手册）共同指向Agent时代的新范式：从“写更好的prompt”转向“建更好的循环”。强调了反馈循环、可审计的改进门、以及人类从操作者转变为监督者的角色变化。
一条推文强调了对Kubernetes的精彩介绍，并引用了Fatih Arslan关于控制理论和反馈循环的文章，这些理论用于构建能够自我修复、弹性伸缩、可扩展数千个数据库的系统。
文章指出，当前生产环境中AI的最大瓶颈并非初始模型部署，而是持续的迭代周期——将生产使用（推理日志、用户反馈）转化为用于微调和重新部署的数据集。文章强调了构建集成反馈循环而非一次性项目的重要性。
一篇由30位专家合著的新论文探讨了来自人工智能的认知风险—即对我们形成准确信念和良好推理能力的威胁—包括说服、认知卸载和反馈循环等机制，并概述了减轻这些风险的方向。
讨论在像Claude这样的AI模型中自我验证循环的重要性，以提高可靠性并减少人工监督的需要。
本文探讨了在Agent时代，Loop Engineering（循环工程）比Prompt Engineering（提示工程）更重要的观点。作者认为，AI Agent的核心能力不在于模型本身，而在于围绕模型构建的反馈循环系统，这决定了Agent能否持续改进和接近正确答案。
IntiDev AgentLoops 是一个开源工具，为代理工作流提供反馈循环，托管于 GitHub。
OpenAI 分享了其团队如何利用 Codex 代理构建一个完整的软件产品，完全不编写任何手动代码，重点在于设计环境与反馈循环，以确保代理的可靠运行。
对比 TencentDB 的智能体内存（擅长压缩混乱的执行记录以节省 token）与 Memos 本地插件（专注于通过反馈循环将执行历史转化为可复用的习惯和长期学习）。
讨论反馈系统（静态分析、覆盖率工具、性能分析）比选择LLM对于让AI代理发挥效用更为关键，并以Oracle为GraalVM Native Image反射元数据生成测试的工作为例进行说明。
文章认为，执行判断密集型任务的AI代理需要反馈循环来随时间改进，而非依赖静态提示，并以Warp开发的用于监控和回应社交提及的代理Buzz为例。