代理提示不是安全边界
摘要
讨论了使用代理提示作为安全边界的局限性，认为仅靠提示不足以确保AI行为安全。
暂无内容
相似文章
提示词是请求，而不是许可。这就是为什么你的智能体仍处于试点阶段。
一篇分析文章，认为提示词级别的护栏之所以失败，是因为它们依赖模型自我监督，而安全检查必须存在于工具边界，并带有可问责的持久审计记录。文章强调，智能体试点停滞的原因在于所有权不明确，而非准确性问题。
智能体需要控制流，而非更多提示词
文章认为，可靠的 AI 智能体需要在软件中具备确定性的控制流和程序化验证机制，而不能仅仅依赖复杂的提示词链。
我如何思考在整个提示层级中为AI智能体设计提示
作者分享了为AI智能体编写有效提示词的原则，强调聚焦真正重要的内容、高信号沟通、可操作的指令，以及使用成熟的措辞。
AI安全争论聚焦于错误的边界
本文认为，AI安全辩论的方向有误，其关注点在于模型对齐和内部控制，而非关键的边界：对智能体执行的外部授权权限。文章警告称，能够自行授权高影响行动（如部署代码、转移资金）的系统构成了基本风险，日志记录和监控无法缓解这种风险。
Agent 运行越久，我就越不在意提示词
作者反思了长期运行的人工智能代理如何遭遇与初始提示无关的失败，并认为环境设计（工具、文档、验证、架构规则）更为重要。他们讨论了诸如 harness 工程、保持 AGENTS.md 文件精简、使用 linter 和评估器代理等概念，同时指出了成本权衡。