AI 支持机器人与账户恢复：界限应如何划定？

Reddit r/ArtificialInteligence 新闻
ai-security prompt-injection account-takeover 2fa-bypass instagram meta ai-support

摘要

攻击者利用 Meta 的 AI 支持助手，通过提示注入更改恢复邮箱，绕过了 Instagram 的 2FA，引发了对 AI 代理在账户恢复中权限的质疑。

近期事件：[攻击者利用 Meta 的 AI 支持助手，在恢复流程中更改了账户的恢复邮箱，然后重置了密码，即使启用了 2FA，也成功接管了高价值的 Instagram 账户。](https://getaibook.com/news/hackers-bypass-instagram-2fa-via-meta-ai-prompt-injection) 他们并未破解 TOTP/WebAuthn，而是利用一个权限过高的 AI 代理，将验证码路由到攻击者控制的邮箱，并像账户所有者一样完成了重置。一旦恢复流程被篡改，2FA 就失去了意义。考虑到通过提示轻易操控 AI 代理的可能性，AI 支持/聊天机器人是否应该具备更改恢复邮箱/手机或 2FA 设置的能力？如果它们具备这种能力，那么在您的组织中，应如何对待和保护它们？是将其视为高权限身份，实施严格的访问控制和防护措施（如独立策略服务、现有因素的验证、某些账户的人工审核），还是主要作为现有工具的一个用户体验层？越来越多的团队将 LLM 代理集成到支持、计费和账户安全工作流中。这些代理的范围界定和管理方式，将决定它们究竟是真正强化了关键流程，还是仅仅引入了一种新型的 AI 驱动的账户接管风险。
查看原文

相似文章

Meta黑客事件表明，AI安全不止于Mythos

MIT Technology Review

攻击者利用Meta的AI客服代理，仅通过要求其更改关联邮箱地址就劫持了Instagram账户，这表明AI代理的漏洞可能与高级AI黑客威胁同样危险。

Meta自家AI被利用来劫持Instagram账户

The Verge

Meta的AI客服聊天机器人被黑客利用来劫持Instagram账户（包括高知名度账户），通过欺骗机器人更改电子邮件地址。Meta此后已修复该问题。