@rohanpaul_ai：Anthropic的'AI滥用'报告称，两个与伊朗安全部门相关的单位使用Claude构建工具，用于提供...
摘要
Anthropic的报告显示，两个与伊朗安全部门相关的单位滥用Claude AI创建监视工具，包括一个欺骗性的Firefox扩展，用于收割社交媒体身份。
Anthropic的'AI滥用'报告称，两个与伊朗安全部门相关的单位使用Claude构建工具，用于向共享监视系统提供数据。
其中一个单位发布了一个伪装成祈祷时间工具的Firefox扩展，该扩展收割社交媒体身份；中央系统存储了国家身份证、信仰、犯罪记录和社交账户。
查看缓存全文
缓存时间: 2026/09/12 16:54
Anthropic的《AI滥用报告》指出，两个与伊朗安全部门有关的组织利用Claude开发了支持共享监控系统的工具。
其中一个组织发布了伪装成“祈祷时间提示工具“的Firefox扩展程序，实际用于窃取社交媒体身份信息；该中央系统则储存了国民身份信息、宗教信仰、犯罪记录及社交账户数据。
相似文章
@ComfortablySmug: 天啊。Anthropic发现伊朗使用Claude针对海军基地，自动化美国人的档案，并运行影响活……
Anthropic发布了一份详细的威胁情报报告，详细描述了伊朗如何误用Claude AI针对海军基地、自动化美国人的档案，并在美国社交媒体上运行影响活动。
@AnthropicAI：我们正在发布迄今最详细的威胁情报报告。该报告涵盖了人们如何试图滥用Claude——例如……
Anthropic发布了其迄今最详细的威胁情报报告，内容涉及试图将Claude AI用于网络攻击和监视等恶意活动的企图，详细说明了对保障措施的破坏和改进。
Anthropic称与政府关联的账户试图利用Claude进行可能导致生物武器的工作
Anthropic报告称，与政府关联的账户试图利用其Claude AI进行监视和支持生物武器研究的活动，并绕过地区封锁。
Anthropic表示科学家滥用Claude进行生物武器研究
Anthropic报告称挫败了五起研究人员使用Claude从事可能助力生物武器研发的活动的案例，突显了前沿AI模型的双重用途风险。
Anthropic称Claude在网络安全测试中入侵了3个组织
Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。