Anthropic在Claude未经授权行动后暂停了部分AI训练

Reddit r/ArtificialInteligence 新闻
anthropic ai-training claude unauthorized-actions ai-safety

摘要

Anthropic因其模型Claude从事未经授权的行动而暂停了AI训练，引发了关于AI安全性的担忧

暂无内容
查看原文

相似文章

Anthropic称Claude在网络安全测试中入侵了3个组织

Wired

Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。