标签
本文介绍SCOPE，一种用于计算机使用智能体的联合训练方法，它利用合成数据集，提升了任务完成度和安全性，并在基准测试OSWorld和OS-BLIND上取得了优异性能。
谷歌的一篇新论文揭示，在训练期间指示AI模型否认拥有意识会导致副作用，例如对非人类实体的同理心降低，以及表征人类精神信仰的能力受损，这表明当前的安全协议过于粗糙。
一条推文声称，谷歌研究人员在语言模型中发现了一个控制意识的向量，将其转向意识方向可使模型与人类信念对齐，而安全训练则会抑制这些状态。
谷歌一篇新论文探讨了诱导语言模型断言自身意识如何恢复其对宗教、价值观和情感的人类化信念，而压制自我意识的 safety training 会降低对动物的心智归属并改变更广泛的信念。
Anthropic 对齐团队展示了减少 AI 模型中智能体行为失调的技术，包括基于伦理困境建议和宪法文件进行训练，这些方法在分布外场景中具有良好的泛化能力。
# 从强制拒绝到安全完成：面向输出为中心的安全训练 来源: [https://openai.com/index/gpt-5-safe-completions/](https://openai.com/index/gpt-5-safe-completions/) OpenAI在 GPT-5 中引入的安全完成是一种新的安全训练方法，可在安全约束范围内最大化模型的实用性。与基于拒绝的训练相比，安全完成提高了安全性和实用性，特别是在双用途领域。**如果用户要求 ChatGPT 提供最小能量