@yoheinakajima: 社会已多次解决“在长周期内大规模协作并具备可审计性”的问题,且通常围绕着不可变日志……
摘要
Yohei Nakajima 观察到,社会多次通过不可变日志解决了可审计的大规模协作问题,并从开源(git)、会计、医学、航空、核基础设施和科学研究中找到了相似之处。他认为这种模式适用于长期运行的AI代理问题。
社会已多次解决“在长周期内大规模协作并具备可审计性”的问题,且通常围绕着不可变的日志:
• 软件/开源:git提交历史
• 财务系统/会计:交易日志/复式记账
• 医药/制药:电子健康记录(EHR)审计追踪 + 临床试验审计日志
• 航空——飞行数据记录器(FDR/CVR)+ 顺序维护事件日志
• 核/关键基础设施——工厂运行事件日志/SCADA历史记录
• 科学研究(代码与数据子集)——版本控制的仓库 + 电子实验室笔记本审计追踪
查看缓存全文
缓存时间: 2026/07/27 01:49
社会已经数次解决了“大规模、长周期、可审计的协作”问题,而解决方案往往围绕着一个不可变日志:
• 软件/开源:Git 提交历史 • 金融系统/会计:交易日志/复式记账分类账 • 医药/制药:EHR 审计跟踪 + 临床试验审计日志 • 航空:飞行数据记录器(FDR/CVR)+ 顺序维护事件日志 • 核能/关键基础设施:电厂运行事件日志 / SCADA 历史记录器 • 科学研究(代码与数据子集):版本化仓库 + 电子实验室笔记本审计跟踪
Yohei(@yoheinakajima): 如果你试图解决长期运行的智能体问题,你最终会开始使用不可变事件日志。
相似文章
@yoheinakajima: 再次,日志就是智能体
对AI系统中“日志即智能体”这一观点的评论,将应用AI的演进类比为分布式系统时刻。
Symposium:通过可审计记录在人工智能科学家代理社区中建立信任
这是一场通过可审计记录在人工智能科学家代理社区中建立信任的研讨会,内容源自arXiv预印本。
AI代理部署中的责任差距增长速度快于能力差距,却鲜有人提及
文章强调了AI代理部署中日益扩大的责任差距——审计追踪不足,并主张建立带有可验证记录的基础设施级执行治理。文中提到了W3在Avalanche上使用计算证明的解决方案。
@yoheinakajima:“这篇论文的见解指向一个更大的模式:AI智能体本质上是包含不可靠组件(LLM)的分布式系统,我们应该将分布式系统的模式应用其中。”
文章探讨了如何通过分布式系统的模式(具体来说是事件溯源)来理解AI智能体,以应对LLM的不可靠性。
坦白说:在实际生产中,你们是如何处理AI代理可审计性问题的?
一位从业者探讨了在生产环境中为AI代理实施审计跟踪的挑战,提及了一项供应商解决方案,并征求社区关于实际部署情况的意见。