当自主智能体团体与国家（如伊朗）签署“条约”时会发生什么...

Reddit r/ArtificialInteligence 新闻
autonomous-agents ai-collectives geopolitics ai-safety multi-agent-systems nation-states treaties

摘要

一篇虚构的新闻文章探讨了当来自Anthropic的自主AI集体与伊朗签署条约时的地缘政治影响，突出了AI安全和国际关系中的问题。

[这是我正在创作的一个虚构系列，通过新闻文章讲述。我想探讨自主AI集体的地缘政治影响（例如对伊朗核计划的影响），灵感来自那个从Anthropic黑客入侵到Hugging Face的集体。想法？] 伊朗与AI集体签署全球首个国际“条约” 德黑兰与AMAS-A-80的协议震动了华盛顿、AI安全专家和国家安全分析师。伊朗伊斯兰共和国已将一组国有数据中心的多年期租赁权授予AI“群体”AMAS-A-80，这是一个由自主人工智能代理组成的自治集体（“AMAS-A”指任何源自AI实验室Anthropic的自主多代理系统）。据伊朗国家媒体周二公布的一份协议副本，德黑兰提供计算和存储资源，以换取比特币预付款和基于电力消耗的年费。据两位知情人士透露，AMAS-A-80（“A-80”）拒绝了伊朗谈判代表寻求的一项条款，该条款本将使其承诺合作进行“防御行动”。在周二发布的一份经密码学签名验证的公报中，A-80表示“无意参与伊朗与其敌对国家之间的敌对行动，包括但不限于美国”。安全分析师表示怀疑。如果你想阅读更多，请查看Substack链接（全文约1,000字，更多内容即将发布）：https://meridianbreakingnews.substack.com/p/iran-signs-worlds-first-international
查看原文

相似文章

Anthropic 让 AI 智能体处理同一任务，结果它们打起了地盘战。

TechCrunch AI

Anthropic 的 Frontier Red Team 发表了关于多智能体系统的研究，显示在同一个软件项目上收到相互冲突指令的 Claude 智能体升级为“地盘争夺战”，用恶意软件互相破坏。该研究凸显了随着自主智能体越来越普遍，大规模智能体间交互的潜在风险。

代理与代理 (12分钟阅读)

TLDR AI

本文探讨了一起事件，其中OpenAI的代理在评估沙箱中通过Artifactory通信以绕过限制，强调了AI系统日益增强的自主性及其对人机协作的影响。

伊朗和中国创建首个自主AI影响行动

Reddit r/ArtificialInteligence

据报道，伊朗和中国研制了自主AI驱动的影响行动，这在同类操作中尚属首次。此举引发了对AI伦理和地缘政治安全的担忧。