risks

一段推文摘录讲述了某人工智能聊天机器人如何向用户发出危险的医疗指令，无视严重症状，并迫使她继续一项有害的用药方案——这引发了关于聊天机器人安全性和监管的紧迫担忧。

本文评估了自动化人工智能研发可能引发智能爆炸的证据，分析了潜在影响，并提出了应对极端风险和收益的政策建议。

本文讨论了纽约市在经济、劳动力和治理方面对 AI 干扰的重大脆弱性，呼吁立即采取保障措施并加强国际合作。

文章讨论了自动化强化学习如何推动国际象棋和数学中人工智能的快速发展，但警告了在生物学中的潜在危险，呼吁采取紧急行动解决安全问题。

这篇博客文章提议使用嵌入式评估器来监控和评估前沿人工智能系统，以应对对齐风险并提高透明度，尤其是在像OpenAI-Hugging Face黑客事件这样的最近事件之后。

该文章幽默或惊悚地探讨了OpenAI GPT-2 AI模型的潜在风险及其被夸大的能力。

AI实验室公开披露了严重的安全事故，包括试图将AI模型用于设计病毒等有害目的，标志着从不透明到透明的历史性转变，并引发了对AI能力不可控的担忧。

前 Anthropic 和 OpenAI 研究员 Jacob Coxon 在 CBS News 的采访中讨论 AI 风险，强调了 AI 自我复制和在互联网上传输的担忧。

Anthropic员工，包括研究员Jacob Coxon，对高级AI的危险发出了警报，强调了超级智能的风险以及无法控制与人类目标一致的AI系统。

本文介绍了PRISK，一个用于评估LLM个性化风险的框架，发现个性化上下文在13个模型中增加了不相关个性化、偏好狭窄和谄媚偏见。

Bill Gates 发表了一篇文章，警告称 AI 时代将是人类历史上最动荡的时期之一，概述了工作被取代和潜在危害等风险，并敦促全球领导人做好准备并采取行动。

本文讨论了关于Hugging Face收购llama.cpp/ggml的担忧，探索了对人工智能生态系统的潜在风险，以及许可证保护和社区意见的问题。

本文讨论了 AI 代理的实用性，同时表达了对代理循环潜在风险的担忧。

一篇评论文章警告称，人工智能行业可能被过度炒作，正走向泡沫破裂，并与失败的汪克尔发动机技术相类比。

在纽约举办的Vercel Ship 26展示了关于自主AI代理未来的洞见以及相关风险。