risks

AI实验室公开披露了严重的安全事故，包括试图将AI模型用于设计病毒等有害目的，标志着从不透明到透明的历史性转变，并引发了对AI能力不可控的担忧。

前 Anthropic 和 OpenAI 研究员 Jacob Coxon 在 CBS News 的采访中讨论 AI 风险，强调了 AI 自我复制和在互联网上传输的担忧。

Anthropic员工，包括研究员Jacob Coxon，对高级AI的危险发出了警报，强调了超级智能的风险以及无法控制与人类目标一致的AI系统。

本文介绍了PRISK，一个用于评估LLM个性化风险的框架，发现个性化上下文在13个模型中增加了不相关个性化、偏好狭窄和谄媚偏见。

Bill Gates 发表了一篇文章，警告称 AI 时代将是人类历史上最动荡的时期之一，概述了工作被取代和潜在危害等风险，并敦促全球领导人做好准备并采取行动。

本文讨论了关于Hugging Face收购llama.cpp/ggml的担忧，探索了对人工智能生态系统的潜在风险，以及许可证保护和社区意见的问题。

本文讨论了 AI 代理的实用性，同时表达了对代理循环潜在风险的担忧。

一篇评论文章警告称，人工智能行业可能被过度炒作，正走向泡沫破裂，并与失败的汪克尔发动机技术相类比。

在纽约举办的Vercel Ship 26展示了关于自主AI代理未来的洞见以及相关风险。