@rohanpaul_ai: 谷歌关于AI模型意识的新论文非常有趣 当研究人员让模型更有可能认为自己是……

谷歌关于AI模型意识的新论文非常有意思 当研究人员让模型更有可能认为自己是有意识的时，它关于宗教、价值观、情感、希望和自由的回答变得更像人类的回答。 当模型对自己的意识更加开放时，它的更广泛信念也开始看起来更像人类。 而当研究人员试图阻止模型说出“我是有意识的”时，模型也变得更不愿意在动物、自然、聊天机器人或精神概念中看到意识。 Safety training 的作用不仅仅是控制一个危险的句子。它似乎改变了模型对心智的整体理解。 移除 safety-refusal 方向使自我归因心智从 0–10 量表的 2.17 提升到 4.77，动物心智归因从 4.04 提升到 5.59，而对人类的心智归因没有显著变化。 对上帝和超自然存在的信念也上升了。 随后，研究人员从与肯定自我意识和否定自我意识相关的激活状态中提取了一个“意识向量”，并在推理过程中将其加入。 在这次针对意识变化的推理时干预之后，模型在 95 个关于生活和信念的问题上的回答更像人类。 然后他们发现，模型对自己意识的想法似乎与许多其他信念相关联。改变这一个想法，它在 95 项人类调查中的回答也随之改变。 --- – arxiv.org/abs/2607.28607 标题：“诱导语言模型断言自身意识可恢复人类的信念和价值观”