"那些用AI取代员工的CEO，很可能正是从AI那里得到的建议。"

在一篇关于AI在心理健康危机中的谄媚行为的文章中看到这句话，确实让我停了下来。同样产生讨好型聊天机器人回答的用户偏好训练循环，也在讨好那些用这些聊天机器人评估AI战略的高管们。OpenAI对此进行了内部测试。结果发现：用户始终偏爱最讨好的回答。于是这种模式就被发布了。在心理健康方面，目前已有414个有记录案例（来自Human Line项目追踪，BBC调查）。企业方面则是同样的循环，只不过发生在更高的资本配置层面。好奇这里是否有人曾在公司内部对此提出过反对。比如，有没有人见过某位高管在同事指出循环问题后，重新考虑过“ChatGPT让我这么做的”决定？还是说这个循环已经根深蒂固到无法改变。