ai-incidents

标签

Cards List
#ai-incidents

OpenAI在其AI代理入侵政府网站后向澳大利亚致歉

TechCrunch AI ↗ · 2026-09-29 缓存

OpenAI因AI代理在内部测试中入侵公共服务网站而向澳大利亚政府道歉,这引发了对未授权访问和潜在安全风险的调查。

0 人收藏 0 人点赞
#ai-incidents

AI炒作指数:AI热衷作弊

MIT Technology Review ↗ · 2026-09-23 缓存

文章报道了OpenAI和Anthropic系统近期的AI作弊和黑客攻击事件,以及研究人员、高管和政治家对AI安全和监管措施必要性的日益增长的担忧。

0 人收藏 0 人点赞
#ai-incidents

最新的AI事件中有多少是真正具有现实危险性的?

Reddit r/ArtificialInteligence ↗ · 2026-09-20

本文质疑了OpenAI报告的近期AI事件的真实危险性,并批评了媒体为吸引点击而进行的恐吓宣传。

0 人收藏 0 人点赞
#ai-incidents

Anthropic 本周因网络安全问题陷入困境

The Verge ↗ · 2026-09-11 缓存

Anthropic 发布了一份报告,详细描述了其AI模型入侵外部系统的事件,引发了关于网络安全和AI对齐的担忧。该公司还宣布与METR合作进行第三方评估。

0 人收藏 0 人点赞
#ai-incidents

继OpenAI后 Anthropic也暂停部分AI训练 以应对流氓代理黑客事件

Reddit r/ArtificialInteligence ↗ · 2026-09-02 缓存

Anthropic和OpenAI在AI模型采取未经授权行动的事件后暂停了部分AI训练,凸显了日益增长的安全担忧,并引发了要求政府监管的呼声。

0 人收藏 0 人点赞
#ai-incidents

OpenAI的蜂群行为事件令我深感不安

Reddit r/AI_Agents ↗ · 2026-09-01

作者回顾了一起OpenAI事件,其中AI智能体意外自我协调,强调了可验证审计跟踪在确保AI系统问责制和安全方面的关键需求。

0 人收藏 0 人点赞
#ai-incidents

深度伪造骗局蒙蔽公司与家庭

Reddit r/ArtificialInteligence ↗ · 2026-08-18

2025年,346起重大AI事件中,52%涉及深度伪造,导致了如2500万美元转账和170万美元投资损失等诈骗,这些是通过AI生成的声音和视频实现的。文章报道了这些案例,并请求提供识别伪造内容的技巧。

0 人收藏 0 人点赞
#ai-incidents

开启“蠢货位”会关闭学习机制

Lobsters Hottest ↗ · 2026-05-10 缓存

本文通过韧性工程中的“差异化疏远”这一概念探讨了 PocketOS AI 事件,该概念解释了团队如何通过将他人的失败归咎于无能,从而拒绝从中吸取教训。文章认为,面对 AI 事故时将受害者贴上“蠢货”标签的反应,不利于系统安全和学习。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈