标签
本文评审了一个聊天机器人系统的架构,该系统将对话式输入转换为结构化数据以供约束求解器使用,通过将大型语言模型用于语言理解和确定性代码用于决策来强调可靠性。
本文讨论了在AI代理系统中将审批与具体操作绑定的问题,强调了需要精确机制来处理变更并防止审批疲劳。
作者解释了为什么在构建Hospilot(一个用于医院运营的多代理系统)时,扁平代理结构失败了,以及采用三层级层次结构(代理 → 子代理 → 任务)如何提高了模块化、规划效率和可扩展性。
一个基于网络的交互式图集,提供了常见系统设计问题的详细示例和架构图,如 Twitter 信息流和聊天系统。
全面介绍核心系统设计模块,涵盖客户端-服务器架构、可扩展性、数据库等内容,助力系统设计问题解决与面试准备。
对代理任务队列的分析显示,不同代理的重复认领可能都被验证,但只有一个被计入,导致不可见的浪费以及自报告时间戳的问题和缺乏排除事件。
本文探讨了'word coding'的概念,即将文档和概念结构化,以便AI系统导航,提供在研究、写作和商业中的潜在应用。
这篇文章列出了10个对系统设计至关重要的GitHub仓库,包括学习可扩展架构和准备技术面试的资源。
ByteByteGo团队制作的开源项目system-design-101,通过架构图简化系统设计面试知识点,已获84.1k星标,适合面试准备和团队培训。
Google 发布了一个免费的1小时图工程课程,详细介绍了从单个代理到完整的24/7系统的过渡,并提供了实践指南和自我改进的图谱。
作者批评许多所谓的多智能体系统实际上是具有多个角色的单一智能体,常用于营销吸引力而非技术必要性。
Φ-Bench是一个基准测试,旨在评估大型语言模型在工程设计和优化LLM基础设施栈方面的能力,覆盖从内核优化到端到端系统设计的任务。
由于快速交付和高阶抽象,工程师们正在失去对系统的掌控。这些因素加速了正常路径,但延长了故障路径,且缺乏充分讨论。
这篇文章概述了一种思维模型,将LLM护栏作为独立层次实施入站和出站检查,强调需要超越系统提示的强制执行,以及与延迟的权衡。
书籍《Grokking AI Applications》由Andrea De Mauro著,是一本图文指南,教授构建如聊天机器人和代理等AI应用,强调系统设计和使用Langflow等工具的实践实现。
这篇文章介绍了大型技术公司面试中的系统设计,解释了高层设计(HLD)和低层设计(LLD)的概念,并提供了示例和关键考虑因素。
文章区分了系统设计中的两种抽象类型:模块化抽象,它隐藏内部细节;建模抽象,它将系统简化为基本行为以进行形式化推理。
作者描述了一项为期三周的实验,测试AI代理的可靠性,发现使用相同模型的代理之间的一致性不可靠,并概述了一个需要人工批准关键决策的系统。
一位开发者分享了一个多代理系统的原型记忆架构,包含对情景记忆、语义记忆和程序记忆的分开存储,以及基于意图的检索,寻求关于可扩展性和设计选择的反馈。