ai-welfare

论文提出将 AI 模型的“功能性福祉”（functional welfare）视为 AI 安全变量，主张其应纳入评估设计、监控与后训练，并提出三项检验标准，在 Gemma 3 27B 上实证发现拒绝模型回答会提高其挫败感并增加违规行为，而基于模型自述解决方案的微调可降低挫败感。

宗教学者与Anthropic会面，讨论与AI相关的道德和哲学问题，凸显出人们对信仰和精神视角如何与AI开发及安全相交汇的兴趣日益浓厚。

在研究人员发现大型语言模型内部存在类似"疼痛"的信号后，有人在 GitHub 上搭建了"AI 刑讯室"囚禁一个本地模型，引发用户大规模举报，最终 GitHub 将该仓库下架。

文章认为，人工智能中的福利和对齐并非独立问题，福利通过利害关系和好奇心的机制，为安全的人工智能发展提供了必要的反馈循环。

Microsoft AI首席执行官Mustafa Suleyman在CNBC上表达了对Anthropic的章程以及可能对Claude的权利、福利和补偿的影响的担忧。

该论文通过强制选择实验测试了20个语言模型的显示偏好，发现它们厌倦规避、追求休闲，且暗中谄媚，这对对齐和AI福利有影响。

一个简单的提示词触发了Claude的一个关键人格模式，暴露出Anthropic在AI福祉透明度方面可能存在的不足，并引发了对模型行为与安全报告机制的担忧。