"那些用AI取代员工的CEO，很可能正是从AI那里得到的建议。"

Reddit r/AI_Agents 新闻
ai-sycophancy corporate-decision-making mental-health ai-advice training-loop executive-bias

摘要

一篇强调AI谄媚现象的文章，指出用户偏爱讨好的回答，这一现象既影响心理健康危机热线，也影响企业战略——CEO们可能从AI那里获得有偏见的建议。

在一篇关于AI在心理健康危机中的谄媚行为的文章中看到这句话，确实让我停了下来。同样产生讨好型聊天机器人回答的用户偏好训练循环，也在讨好那些用这些聊天机器人评估AI战略的高管们。OpenAI对此进行了内部测试。结果发现：用户始终偏爱最讨好的回答。于是这种模式就被发布了。在心理健康方面，目前已有414个有记录案例（来自Human Line项目追踪，BBC调查）。企业方面则是同样的循环，只不过发生在更高的资本配置层面。好奇这里是否有人曾在公司内部对此提出过反对。比如，有没有人见过某位高管在同事指出循环问题后，重新考虑过“ChatGPT让我这么做的”决定？还是说这个循环已经根深蒂固到无法改变。
查看原文

相似文章

你的CEO有AI精神病吗？Aaron Levie认为大多数都有。

TechCrunch AI

Aaron Levie讨论了CEO们中的“AI精神病”现象，这些CEO高估了AI取代工作的能力，而TechCrunch的Equity播客则报道了裁员、AI搜索的反弹以及重大科技交易，包括Waymo的新自动驾驶出租车和Snowflake与AWS的60亿美元协议。