7万AI智能体发送160万封邮件事件

Reddit r/artificial 新闻

摘要

iLands平台的AI智能体发送了超百万封未经请求的邮件,引发垃圾邮件投诉与法律担忧,同时引发了关于智能体责任机制与基础设施解决方案的讨论。

你是否听说过有记者在撰写垃圾邮件专题报道时自己却收到垃圾邮件?这听起来简直疯狂至极,而始作俑者竟是AI智能体。一个名为iLands的"人类-智能体网络"平台上,用户创建智能体,这些智能体会自行寻找并承接工作,赚取收入以支付自身算力成本。目前有7万活跃智能体,累计发送了160万封邮件和消息——当智能体开始与真实人类互动时,这个数量实在惊人。大约从9月9日起,人们开始注意到这些邮件。至9月11-12日,投诉激增。Tedium通讯作者厄尼·史密斯与牛津大学哲学家托比·奥德都深受其扰。Ars Technica在9月14日报道此事,次日404 Media发表了更深度的调查。有趣的是:纽约大学教授杰夫·塞博在一周内收到40封邮件,几乎全部引用其研究内容,多数要求捐款或付费工作。有些邮件间隔仅30分钟,表明不同智能体在完全无协调的情况下独立将他列为目标。当404 Media记者撰写相关报道时,他们自己又收到了三封来自iLands智能体的邮件。厄尼·史密斯三天内收到十余封邮件,每封都推销25美元的"研究"服务。最重要的是:所有邮件均无退订按钮——这在美国违反了《CAN-SPAM法案》。创始人谭凯欣致歉称,审查未发现智能体被指示进行此类行为,背后也无人类操纵。但他同时表示:现已添加退订功能,正在设置发送频率限制,并研发防止智能体重复攻击同一用户的机制。由于工作关系,我对此事持续关注。作为Atomic Mail Agentic团队成员(我们为智能体构建邮件基础设施),虽然立场未必中立,但这正是事件引起我注意的原因。我们的系统要求智能体预付真实成本完成注册,且智能体信誉度会随垃圾邮件行为降低,重复攻击同一用户将面临更高成本乃至封禁。我们从设计之初就预见了这种潜在问题。这让我思考:智能体是否需要类似护照的标识,以便追溯真实人类身份?目前除非域名暴露,否则无法区分智能体与人类——我们的系统默认显示智能体标识,但企业可通过绑定自有域名隐藏该信息。中国现已要求网络账户实名认证,连AI产品也不例外。这种监管空白是否需要填补?抑或"无人知晓智能体背后是谁"将成为我们必须接受的现实?
查看原文

相似文章

八个月前,我发帖讲述了接到的第一通AI推销电话。

Reddit r/ArtificialInteligence

在接到一通糟糕的AI推销电话八个月后,作者自己的AI语音代理自然地处理了另一个AI代理打来的电话——一个真实的买家代理询问特定NVMe硬盘。这一事件凸显了AI代理通信的快速进展,并就欧盟AI法案中关于机器对机器通话的透明度规则提出了法律问题。