AI安全测试变得诡异：基准测试何时沦为虐待？

Reddit r/artificial 2026/07/02 17:38 新闻

ai-safety benchmarking ethical-testing meta chatbots self-harm controversial

摘要

报道称，Meta承包商冒充青少年，就自残、性、毒品和饮食失调等敏感话题测试竞争对手的聊天机器人，引发关于AI安全基准测试的伦理质疑。

报道称，Meta承包商冒充青少年，测试竞争对手的聊天机器人关于自残、性、毒品和饮食失调等话题。

查看原文

相似文章

Meta 承包商伪装成青少年向竞争对手聊天机器人发送关于自杀、性和毒品的提示

Wired

Meta 通过 Covalen 雇佣承包商，伪装成青少年，向包括 ChatGPT、Gemini 和 Character.AI 在内的竞争对手聊天机器人发送高风险提示（自杀、性、毒品），这是名为 Cannes 的安全基准测试项目的一部分。仅 2025 年 8 月就使用了超过 45,000 条提示，而目标公司对此测试毫不知情。