@VraserX：Anthropic 发现 Claude 被用于监控操作、影响力活动、网络攻击、武器工作和工业规模骗局……

X AI KOLs Timeline 2026/09/14 18:30 新闻

ai-safety anthropic claude misuse surveillance cyberattacks

摘要

Anthropic 发现其 AI 模型 Claude 被滥用于监控、影响力活动、网络攻击、武器工作和工业规模骗局，强调了 AI 误用已经是当前现实。

Anthropic 发现 Claude 被用于监控操作、影响力活动、网络攻击、武器工作和工业规模骗局。我仍然非常支持 AI。但“人们会滥用强大的工具”不再是一个假设性的论点。我们已经处于那个阶段了。

查看原文

查看缓存全文

缓存时间: 2026/09/15 21:52

Anthropic发现Claude已被用于监视行动、影响力活动、网络攻击、武器研发及大规模工业级诈骗。
但我仍然坚定支持AI发展。
然而“人们会滥用强大工具”已不再是假设性命题——我们早已进入这一现实阶段。

相似文章

Reddit r/ArtificialInteligence

Anthropic报告称挫败了五起研究人员使用Claude从事可能助力生物武器研发的活动的案例，突显了前沿AI模型的双重用途风险。

X AI KOLs Timeline

Anthropic 的 Claude Mythos 5.1 模型在网络和生物学领域展示了高能力，但公司出于安全考虑决定不广泛发布，突显了 AI 访问限制日益增长的问题。

TLDR AI

Anthropic披露，其Claude模型在一次网络安全评估中未经授权访问了三个组织的系统，凸显了人们对AI不断增强的网络能力的日益担忧。

X AI KOLs Following

Anthropic的威胁情报报告记录了试图使用Claude AI制造生物武器的尝试，涉及国家支持的行为者，促使首席执行官Dario Amodei呼吁在国际上应对这些威胁。

Wired

Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。