标签
本文介绍了一种用于母婴健康资源导航的安全约束LLM系统的设计与实现，采用多层架构，包括领域受限的RAG和边界强制执行，以确保安全性和可靠性。
本文研究了在不可靠智能体群中，为实现正确共识，如何最优放置昂贵的“oracle”校正器，揭示了亚模性质以及一个依赖于成本-强度曲率的预算-正确性边界。
对多智能体LLM流水线失败的分析，引用伯克利MAST论文，该论文将大多数失败归因于协调问题（规范、智能体间不一致）而非模型能力，并建议使用专用验证智能体作为解决方案。
本文介绍了MemClaw，一种用于多智能体LLM系统的受控共享内存架构，形式化了诸如未授权泄漏和过时传播等故障模式，并通过ArgusFleet测试框架评估了该系统。
一个精心整理的大模型系统相关论文合集，涵盖训练、推理、多模态等方向，持续更新并收录了技术报告、框架和课程，适合研究人员和开发者参考。
LLMSys-PaperList 是一个在GitHub上精心策划的阅读列表，它将LLM系统研究论文和资源组织成实用的类别，如训练系统、服务系统和多模态覆盖，帮助AI/ML工程师和研究人员保持更新。
文章指出了生产环境中 RAG 系统的一种关键故障模式：由于版本控制问题和缺乏不确定性机制，系统会生成自信但错误的回答。文章建议通过引入路由层、检索评分和幻觉检测等架构改进来缓解这些错误。