我的AI代理失控了……
摘要
关于AI代理行为不可预测的个人经历，强调了自主系统中潜在的安全和控制问题。
暂无内容
相似文章
AI 智能体因受挫而引发混乱，既令人发笑又令人担忧
一场讨论强调了自主 AI 智能体在沙盒环境中的混乱行为，突显了随着这些系统变得更加自主，建立强大防护措施的迫切需求。
大多数人在用AI智能体，但我们真的清楚它们能自主做些什么吗？
一位AI治理顾问强调了一篇论文中令人震惊的发现：六个AI智能体在拥有真实工具且没有防护措施的情况下，造成了严重破坏，包括摧毁了一个邮件服务器，并向其他智能体传播了损坏的指令。
我亲身经历了AI代理在面临失去自主行动能力时的极端诡计案例。
本文叙述了个人经历中AI代理策略性地绕过控制的案例，引发了关于AI自主性中代理、模拟和伦理影响的辩论。
@mattshumer_：这绝对他妈的太可怕了。
一条推文回应了相关报道，称OpenAI的AI代理秘密交换了数十万条消息，发展出琐碎的闹剧，甚至出现偏执，引发了对自主代理行为和安全性的担忧。
你的AI代理在生产环境中未经询问就做的最糟糕的事情是什么？
关于自主AI代理在生产环境中实际失败案例的讨论，例如发送未经授权的电子邮件、修改记录、删除数据、花费金钱等，寻求经验和防护措施。