ai-systems

多智能体AI系统通常会在路由、并行、交接和覆盖方面出问题。本文推荐使用分派矩阵、并行执行、结构化交接和带日志的兜底后备方案来修复这些问题。

本文提出了一种基于冗余调整人工年龄评分（AAS）的AI系统长期持续性框架，表明无限循环运行不必然导致无界的结构老化。

本文介绍了“评估盲区”（evaluation blindness），这是一个用于描述从训练到部署过程中破坏AI系统的静默测量失败的正式框架，包含案例研究、基于50个真实事件验证的失败分类法，以及失败预算框架。

本文提出了一种语义框架来描述AI系统，区分合理的声明与误导性的输出，并定义了常见的失败现象，如幻觉和无根据的断言。

这是一本名为《Agentic Design Patterns》的开源书，提供21章和7个附录，系统讲解AI Agent的设计模式，覆盖从基础到企业级生产环境，每章配有Jupyter Notebook实践。

伊恩·钱宁批评那些在表现并不优于Google AI的RAG系统上浪费资金的公司，他认为能够访问语料库并不等同于拥有深厚专业知识，并且推理无法与知识完全分离。

Sakana Fugu 技术报告介绍了一个经过训练的编排器，它能动态选择并协调专用模型来执行任务。其中包含一个快速版本（Fugu）和一个较慢的工作流版本（Fugu-Ultra），后者可根据每个请求设计定制化的协作模式。

发现一篇关于Agentic AI的全面指南，从基础到系统架构，覆盖了智能体AI的全貌。

讨论用于处理复杂任务的多智能体系统，可能涵盖AI智能体之间的协调与协作。

文章提出，AI代理推荐系统应纳入商户反馈机制，以提高其有效性和可靠性。

一位谷歌高级工程师免费发布了一份421页的文档，涵盖AI系统的代理设计模式，包括基于代码的章节，涉及提示链、多代理协调、防护栏和推理。

使用LLM构建AI系统的逐步指南，涵盖从选择模型到使用框架、向量数据库和数据提取工具进行评估的步骤。

本文提出了一种基于BFT的认知综合协议，能够实现多个AI模型间的涌现协作审议。

本文探讨了城市经济学中的概念（如交通、分区和污染）如何建模自主AI系统中的外部性。文章引入了行为外部性乘数（BEM），并提出了一个包含架构层、基底层和治理层的分层框架，以衡量和减轻廉价AI行为带来的高昂后果。

马丁·卡萨多的一条推文，强调了一种解决方案，该方案解决了大规模向AI智能体暴露追踪数据这一难题，并平衡了成本与AI的杠杆作用。

提示逻辑门（PLG）是一个可视化提示工程实验，它使用语义逻辑门（AND、OR、NOT、提问）来组织提示，以管理类似系统的复杂提示，旨在提高可维护性和一致性。

本文认为，尽管AI在模式识别和假设生成方面表现出色，但科学和经济的进步需要与现实世界的接地互动以及制度执行，强调了人机协作的必要性。

这篇文章认为，下一个重大AI转变将是向具有可靠运行记忆的系统迈进——能够随时间记住、更新和运用知识——而不仅仅是构建更智能的模型。

本文介绍了智能体技术债务和随机税的概念，定义了结合随机模型与工具使用及工作流的智能体AI系统特有的新负债和运营成本，并提出了轻量级的治理控制措施。

这篇文章强调了AI记忆在六个月后变得不可靠的问题，出现矛盾和信息摘要漂移，并质疑业界是否专注于增加存储容量而非提升可维护性。