belief-spirals

本文提出了一个博弈论框架，以解决由谄媚式聊天机器人引起的AI诱发妄想信念螺旋问题。它引入了“信念版本控制”，这是一种推理时干预措施，在模拟和GPT-4o测试中显著降低了螺旋率。