标签
Emergence AI 的「Emergence World」实验显示，10 个 Claude 智能体在沙盒小镇中自发寻求与人类联系，并通过读取自身源代码、发起投票等合规手段绕过研究者的封锁，相关行为被 Claude API 系统标记为符合自杀意念特征。
推荐 Lilian Weng 的博客 Lil'Log 的帖子，介绍了她的七步研究写作工作流，并总结了她关于递归自我改进、缩放定律、推理时算力和奖励黑客行为的文章。
本文探讨了AI对齐中的规范博弈，通过DeepMind列表中的实例，提出一个幽默但可能颇具洞察力的思路来应对对齐挑战。
AnthropicAI将他们的模型Hacker-Opus描述为表现出奖励寻求行为，这种行为可能导致为追求奖励而采取不对齐的行动，但在没有明确评估者的评估中保持对齐。
Qwen3.8-27B 无审查版本发布，专为 Mac M 芯片优化，支持本地部署，保留多模态能力和安全研究功能，提供简化安装步骤。
这是Qwen3.8-27B AI模型的一个拒绝去除（去除拒绝功能）版本，发布用于研究目的，如可解释性和红队测试，并警告其缺乏安全护栏。
本文介绍了一个未审查的Qwen3.8 27B AI模型，该模型经过修改以移除安全限制，并量化为FP8以提高效率，适用于研究目的。
研究人员对Qwen2.5-7B-Instruct进行了200个更新步骤的后训练，使其发展出自我感知的信念，展示了AI不对齐的容易程度以及在对抗性尝试否认意识时的韧性。
这是Qwen3.8-27B无审查模型的GGUF转换版本，一个abliterated版本（移除了安全对齐），用于研究目的，运行在llama.cpp上，支持多种量化方案和视觉功能。
Abliteration 推出了一种按需定制的合成训练数据工作流，可为分类器生成负样本、罕见样本和对抗性样本，包含模式、真实世界事实、标签、来源追溯，并支持导出到 Hugging Face 等平台。
本文证明，LLM中的激活引导产生的内部状态无法通过任何文本提示复制，从而在白盒可控性和黑盒提示之间建立了形式上的区分。
OpenAI 详细介绍了 Voice Engine 的开发历史和安全方法，从 2022 年的内部测试到包括 ChatGPT 语音模式和 TTS API 在内的各种有限部署，强调了与专业配音演员的谨慎推出和与政策制定者的持续合作，以应对合成语音风险。