为什么AI代理没有确定性防火墙？

Reddit r/openclaw 工具
ai-agents security rust firewall deterministic dag taint-tracking

摘要

一位开发者用Rust为AI代理构建了一个确定性防火墙，运行时间低于5毫秒，使用计划、MCP列表和污点追踪来强制执行安全，避免幻觉和延迟问题。

大家好，随着互联网上的代理越来越多，安全性将成为一个大问题。目前，这个问题是通过使用LLM来守护代理来解决的，但这会产生幻觉和延迟的问题，所以我用Rust编写了一个防火墙，运行时间低于五毫秒。它的工作原理是创建一个计划并强制执行该计划；对于每个动作调用，它使用模型上下文协议列表来强制执行，对于序列，它跟踪每一个工具调用和数据流；还有一个污点机制，如果代理读取了用户上下文之外的内容，它会标记并增加额外的安全机制。它使用DAG工作。Github: https://github.com/beebeeVB/trajeckt
查看原文

相似文章

AgentWall：面向本地AI代理的运行时安全层

arXiv cs.AI

本文介绍了AgentWall，一个面向本地AI代理的运行时安全层。它能在执行前拦截操作、执行声明性策略、对敏感操作要求人工审批，并记录防篡改的操作轨迹。该项目开源，支持多个代理平台。