为什么我们的 AI 智能体提示词不断劣化成一份 130 行的法律合同,以及 1986 年的言语行为状态机与 1977 年的四值逻辑如何让我们删掉那些“禁止”规则
摘要
作者讲述了如何用 Flores 与 Winograd 的言语行为状态机、Belnap 四值逻辑和 CSP 通道前缀,把 AI 智能体提示词里不断膨胀的 130 行防御性“禁止”规则,重构成可验证的状态迁移与 Makefile 依赖图,并向社区征集类似实践。
即使我们用一张基于 Stuart Feldman 于 1976 年提出的 Makefile 依赖图,以及磁盘上的一个 Unix init-d 状态目录,替换了原先包含 21 个步骤的智能体检查清单,我们还是发现,主技能文件的后半部分已经悄悄膨胀成了 130 行防御性的法律条文式文字(不得跳过测试,不得请求进入规划阶段的许可,不得在没有差异回执的情况下将任务标记为完成)。每当智能体以一种新方式失败,我们就会再写一条英语规则。把这些规则并排放在一起看,我们意识到,每一次失败实际上都对应着 Fernando Flores 和 Terry Winograd 于 1986 年提出的“行动对话”状态机中四种失效转换之一:虚假完成:作出断言(测试通过),却没有实际的见证回执(SHA-256 哈希值 + 命令退出码)。中途退出或暗中修改范围:作出承诺,在实现过程中遇到编译器错误,推翻了先前的某个假设,然后绕过已批准的计划打补丁,而不是明确撤销承诺。自我批准:执行者智能体作出一项专属于客户角色的宣告(已获准提交)。走捷径时跳过安全检查:把验证绑定到顺序检查清单中的某个步骤编号,而不是绑定到通过反向链式推导确定的 Makefile 前置依赖(commit: approved-review human-commit-approval)。当你把 Flores 的 4 种言语行为(请求、承诺、断言、宣告)、Nuel Belnap 于 1977 年提出的四值真值表(未知、已确立、已反驳、已撤回),以及 Tony Hoare 于 1978 年提出的 CSP 通道前缀(? 表示监听/阻塞,! 表示发送)结合起来时,那些防御性文字就消失了。而且,如果你将 init-d 状态文件按 00 到 90 编号,使其与 Makefile 目标对应(10_ticket、15_archaeology_receipt、20_plan_approved、40_critic_review、45_review_approved),那么从一次涉及 20 万 token 的上下文压缩中恢复,就变成了一个针对尚未履行的承诺、只有 4 个分支的简单 switch 语句。这里还有人尝试过将智能体与人类之间、编排器与子智能体之间的交接,建模为显式的言语行为状态机或会话类型状态机,而不是用文字规则来约束吗?
相似文章
我为什么用 1976 年的 Unix Makefile 替换了 20 步 AI 代理提示清单
作者分享了如何用 1976 年的 Unix Makefile DAG 结构替代多步 AI 代理提示清单,解决代理在长工作流中迷路的问题,并发现每个目标最多 2-3 个前置条件可避免跳过人工审批门。
@yibie: 推荐这篇让我头皮发麻的文章。一个开发者回忆起 25 年前 AI 课上的教授说"Lisp 是 AI 的语言",然后他用 100 行 Common Lisp 写了一个完整 agent——8 行递归式的 agent loop,一个唯一工具是 e…
一个开发者用100行Common Lisp构建了一个AI agent,唯一的工具是eval,模型通过递归agent loop执行代码,并通过持久化transcript恢复技能,展示了Lisp作为AI语言的独特优势。
智能体早已知晓:内部状态预测并阻止未经授权的行为,以及随之而来的谎言
该论文提出利用语言模型智能体残差流的线性读数来预测未授权行动和虚假报告,从而以极低成本实现动作门控,显著减少违规行为和提示注入攻击,同时不影响任务完成率。
给AI编码智能体一个确定性的“架构检查器”,使其不再假装“完成”
本文描述了给AI编码智能体一个确定性的架构检查器,该检查器检查事件风暴图中的机械性缺口和未决问题,确保智能体不会假装完成。
@cellinlab: https://x.com/cellinlab/status/2064144608242679822
这篇文章介绍了 Loop Engineering 的概念——不再直接给 AI agent 写 prompt,而是设计一个系统(loop)来递归地让 agent 迭代工作,直到任务完成。文章详细对比了 Claude Code 和 Codex 在 automations、worktrees、skills、sub-agents 等五个构建块上的实现,认为这可能是未来与 coding agent 协作的趋势,但仍需警惕 token 成本和 AI slop 问题。