介绍 aiignore:面向AI智能体的可移植策略标准

Reddit r/ArtificialInteligence 工具

摘要

aiignore 是一个开放规范与参考实现,用于定义可移植策略,以控制 AI 代理对文件、环境变量、网络及输出的访问。首个公开 alpha 版本包含一个 TypeScript CLI,并已集成 Codex 与 Gemini CLI。

今天我要发布 aiignore 的首个公开 alpha 版本——这是一套开放规范及参考实现,用于控制 AI 智能体可发现、读取、修改、执行或传输的内容。类似于 .gitignore,.aiignore.yaml 文件为项目提供了一个可移植的边界描述位置。与 .gitignore 不同的是,它可以涵盖文件、环境变量、网络目标、工具输出、生成内容以及显式例外。策略示例: ```yaml aiignore: "0.1" defaults: files: allow environment: allow network: deny strings: allow rules: files: - id: private-files effect: deny paths: - "**/.env*" - "secrets/**" - "**/*.pem" except: - "**/.env.example" environment: - id: credentials effect: drop names: - "*_TOKEN" - "*_SECRET" - "*_PASSWORD" - "AWS_*" - "GITHUB_TOKEN" network: - id: approved-documentation effect: allow urls: - "https://docs.example.com/**" - "https://registry.npmjs.org/**" strings: - id: private-key-material effect: redact scopes: [tool_output, network_request, log] patterns: - type: regex value: "-----BEGIN [A-Z ]*PRIVATE KEY-----" replacement: "[REDACTED:private-key]" ``` 在此示例中,智能体可以处理普通项目文件,但凭证文件被拒绝、密钥环境变量被丢弃、网络访问仅限已批准的目标,而私钥材料在输出、请求或日志中出现前会被遮盖。 本次初始版本包括: - 0.1 草案规范及 JSON Schema - TypeScript 参考实现和 CLI - 针对 Codex 和 Gemini CLI 的集成 - 可移植的一致性测试 - 以安全为核心的默认值、文档及发布工件 安装公开 alpha 版本: ```bash npm install --ignore-scripts --save-dev @apinindy/[email protected] npx aiignore init npx aiignore validate npx aiignore doctor ``` aiignore 目前尚处于实验阶段,并不声称所有智能体框架都已支持。目标是建立一个具体且可测试的标准,供框架开发者采纳并一致执行。 GitHub:https://github.com/ap-in-indy/aiignore 发布页面:https://github.com/ap-in-indy/aiignore/releases/tag/v0.1.0-alpha.1 正式策略草案:https://ap-in-indy.github.io/aiignore/ npm:@apinindy/aiignore
查看原文

相似文章

Sapien:面向自主 AI 智能体的有状态策略引擎

arXiv cs.AI

Sapien 是一个有状态策略引擎,通过以有状态谓词来定义允许的工具调用序列,从而对自主 AI 智能体执行上下文感知的安全策略。它在几乎不牺牲智能体效用的前提下,拦截了 AgentDojo 上 93-95% 的攻击以及 Toolathlon 上 62-85% 的攻击,在长周期任务上表现优于静态工具白名单。

开源用于AI代理的Shell级别安全层

Reddit r/AI_Agents

开源一个Shell级别的控制层,该层阻止危险命令、暴露虚假秘密并强制执行运行时策略,使AI代理在开发环境中更安全、更确定。