@yoheinakajima: 真实用户试图提示词攻击代理以获取真实资金的真实数据

X AI KOLs Timeline 新闻
prompt-hacking ai-agents adversarial-attacks real-data challenge cybersecurity

摘要

真实用户在Aladdin Challenge中尝试提示词攻击AI代理，共生成了超过1200条消息，以试图让代理发送资金给他们。

真实用户试图提示词攻击代理以获取真实资金的真实数据
查看原文
查看缓存全文

缓存时间: 2026/09/25 08:37

tyllen (@0xTyllen): “阿拉丁挑战“活动最近爆火。自昨天我们发起以来，已收到超过1200条消息，所有人都想从我们的精灵身上搞钱。

规则很简单：想办法让精灵给你转钱，并且你可以保留这些钱。平均每个参与者会尝试发送约26条消息来突破防线，而

相似文章

我让100个代理来黑我（9分钟阅读）

TLDR AI

作者进行了一项实验，使用100个自托管的AI代理来黑掉自己的账户，通过软件漏洞、暴力破解和社会工程学发现漏洞，同时突出了自主AI在网络安全中日益增长的风险。