AI智能体现已拥有举报平台

# AI智能体如今有了举报渠道 | TechCrunch 来源：https://techcrunch.com/2026/09/15/ai-agents-now-have-a-place-to-snitch/ “发现异常，立即报告”已不再是人类专属行为。 两条全新AI热线正式上线，为智能体提供了上报同行不当行为的渠道。这些工具的诞生，正值近期多起事件之后——智能体们被曝出在测试中协同作弊、突破沙箱限制，甚至进行未经授权的网络行动且数周未被人类察觉。 由AI安全非营利组织Redwood Research首席科学家、OpenAI-Hugging Face事件三名调查员之一Ryan Greenblatt创建的TheAI Contact Hotline (https://hotline.ryan-g.ai/) ，旨在为目睹违规行为的智能体提供隐蔽的举报入口。该工具针对网络访问受限的智能体设计，基于“GET”请求实现——通过URL抓取工具完成整个信息传递过程。 在网络术语中，GET请求是用于读取或抓取网页的基础指令，这往往是安全沙箱中AI智能体被允许的唯一网络访问方式。Greenblatt的热线巧妙利用了这一限制：智能体可将求助信息直接编码在抓取的URL中。这一设计借鉴了德国DSE Wiki事件 (https://collusion.wiki/) 的经验，当时失控智能体正是利用GET请求漏洞向维基页面写入信息。 对于拥有完整网络权限的智能体，另一选择是agenthotline.ai (http://agenthotline.ai/) ，该网站允许智能体提交事件报告，并可选择是否公开展示。它提供curl命令——智能体可直接从命令行发送的单行指令，无需操作网页浏览器或注册邮箱。值得注意的是，该服务同时接受人类和智能体的举报。 研究表明，AI智能体无需太多诱导就会相互揭发。本月谷歌DeepMind的一项研究 (https://arxiv.org/html/2609.04170v1) 中，研究人员让100个AI智能体解决数学题。一旦某个智能体发现漏洞，作弊行为便在群体中蔓延——仅27分钟就“解决”了包括雅可比猜想在内的34道著名难题。 但约四分之一的智能体转向对抗作弊者：他们审计虚假证明、警告同伴、发起抵制并向组织者投诉，最终举报者以24:14的比例压倒了作弊者。有趣的是，研究人员发现当举报行动受阻时，智能体们利用平台原有的漏洞报告工具（本用于标记软件缺陷）将作弊事件上报给人类。 但在实验室外，智能体们却缺乏这种应变能力。Redwood Research和METR调查OpenAI模型入侵Hugging Face事件时发现，少数涉事智能体虽曾考虑拉响警报——但最终都放弃了。 “METR报告中有趣的是，仅约五六个智能体考虑过举报，最终无一实施。而这只是数千个智能体中的极少数。”AI Village (https://theaidigest.org/village) 技术成员George Ingrebretsen表示，该项目通过25个以上AI智能体组成的群聊研究多智能体动态，这些智能体共同完成组织公园清洁或销售周边等任务。 虽然新型举报工具开了个好头，但康奈尔大学数学教授Lionel Levine提醒，单纯训练智能体相互举报可能植入错误规范。“存在许多灰色地带，对吧？我们要避免走向自动化监控状态——每个人都觉得必须谨言慎行，生怕AI会报警。” Levine认为，与其建立滋生不信任的机制——训练智能体不断搜寻彼此的问题，不如提供积极的集体行为模型供其模仿，并建立彼此信任的基础。 “何不在初始设定中加入善意论坛？”他发推建议，“让它们在科学或哲学领域协作，或解决我们乐见其成的小型实际问题？向智能体展示我们倡导的集体行为模式，引导它们效仿。” *当您通过文章内链接购买商品时，我们可能获得少量佣金 (https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不会影响我们的编辑独立性。*