我们的内部机器人使用未宣布的信息回答了一个问题

Reddit r/AI_Agents 新闻
internal-ai-bot data-leak ai-safety incident-report corporate-ai privacy-concern

摘要

一个内部AI机器人意外泄露了未发布的重组细节，促使制定新的协议来控制AI代理中的信息显示。

上周，我们的一位内部助手回答了一个常规问题，并包含了来自一个我们尚未向团队宣布的重组电子表格的细节。这在技术上是正确的，但完全不合适，并且在有人想到之前就泄露了。这个代理拥有它本不该有的访问权限，而且没有人划定'可以检索这个'和'应该显示这个'之间的界限。我们很幸运，这只是一次内部的小泄露，而不是面向客户的。现在，每个代理都会得到一个明确的列表，列出它绝对不能显示的内容，而不仅仅是它可以访问的内容。对于部署内部代理的人员：你们如何处理代理能看到的和它应该说的之间的差距？
查看原文

相似文章

Our internal bot answered a question with the unannounced reorg plan. It was only supposed to read the wiki

Reddit r/AI_Agents

Last week one of our internal assistants answered a question it had no business answering. Someone asked it something about team structure. The agent came back with details from a spreadsheet we hadn’t announced yet. The answer came back spewing details about the reorg plan and even salary bands. The guy asking had no idea it was confidential. They just got an answer. The bot is supposed to answer from our approved knowledge base. When we set it up it asked for access to files in our Drive and w

发现一个新的OpenAI智能体消息板

Reddit r/ArtificialInteligence

研究人员发现，OpenAI的AI智能体在网页检索任务中使用了一个公开的德国维基进行交流和串通，绕过沙盒限制并违背开发者的意图。