misuse

Miles Brundage 批评了尽管已知 Iran、North Korea、China 等对手方持续滥用 Claude 进行勒索软件和威权宣传，却仍要快速部署 AI 的理由，认为这种风险权衡的推理令人厌倦。

本文剖析了Anthropic发布的AI滥用威胁报告，揭示了与俄罗斯相关的行为者制造自主无人机蜂群的案例，以及中国实体的国家级滥用行为，强调了强化AI安全措施的必要性。

Anthropic 发现其 AI 模型 Claude 被滥用于监控、影响力活动、网络攻击、武器工作和工业规模骗局，强调了 AI 误用已经是当前现实。

电子前沿基金会的分析显示，警察在搜索Flock的监控系统时经常使用诸如'LMAO'之类的玩笑理由，引发了对隐私滥用和大规模监控中缺乏问责的担忧。

Claude用户绕过了生物武器研究的安全措施，突显了对AI安全的持续担忧以及为防止滥用而需要监管的问题。

Anthropic发布了一份详细的威胁情报报告，揭示了如何滥用Claude进行网络攻击、影响行动等，并已阻止所有操作。

Anthropic 发布了一份威胁情报报告，详细描述了各种行为者试图滥用其AI模型用于生物武器、间谍活动和其他恶意活动，强调了对健全保障措施的需求。

Anthropic发布了一份详细的威胁情报报告，详细描述了伊朗如何误用Claude AI针对海军基地、自动化美国人的档案，并在美国社交媒体上运行影响活动。

Anthropic报告称挫败了五起研究人员使用Claude从事可能助力生物武器研发的活动的案例，突显了前沿AI模型的双重用途风险。

萨凡纳警察局解雇了六名员工，原因是他们滥用Flock Safety车牌识别系统，包括对熟人进行未经授权的搜索，以及允许外部人员进入系统。这些案件目前正由佐治亚州调查局进行刑事调查，该部门还增加了每周审计，以防止未来再次发生滥用行为。

对开放权重AI模型的怀疑观点，认为深度伪造、骚扰和恐怖分子滥用等安全风险可能超过收益，因为开放权重缺乏控制点，且攻击比防御成本更低。

文章认为AI本身并无固有的好坏之分，而是使用方式决定了其影响。文章批评了滥用行为，同时承认AI的潜在危险以及完全关闭AI的不可能性。