# 揭秘“莉莉计划”:阅读你ChatGPT聊天记录的人类审核员
来源:https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/
OpenAI正雇佣数百名承包商阅读海量真实用户的ChatGPT提示词,其中有时包含敏感个人信息——404 Media近日获悉。这些审核员审阅的内容可能包含用户与聊天机器人的完整对话,而ChatGPT超过9亿用户(https://techcrunch.com/2026/02/27/chatgpt-reaches-900m-weekly-active-users/?ref=404media.co)中大多数人可能并未意识到,他们的对话可能正被真实人类阅读。
这些提示词审核团队的目标是优化ChatGPT对用户的回复质量,承包商需要对聊天机器人生成的回复进行评分和点评。404 Media获取的内部文件显示,承包商接受培训使ChatGPT避免自我拟人化,并减少阿谀奉承倾向——这对OpenAI而言是关键问题,据多起诉讼(https://www.404media.co/austin-gordon-chatgpt-suicide-openai-lawsuit/)称,其过度奉承的4o模型在一定程度上导致了多人自杀事件。
💡
****您是否在为OpenAI或Anthropic担任提示词审核员?我们希望能与您联系。请使用非工作设备,通过Signal加密联系我(账号:joseph.404)或发送邮件至
[email protected]。****
这一消息揭示了ChatGPT用户面临的重大隐私风险。许多人将ChatGPT作为心理治疗师、专业助理或数字朋友,向其透露生活中的各种私密细节。虽然承包商无法看到ChatGPT用户名,且OpenAI声称会在提示词送审前尝试移除个人信息,但公司承认敏感信息仍可能泄露。
该消息也打破了“模型进步仅源于OpenAI大规模网络抓取、高薪工程与AI团队才能,或新型号算力”的误解。一个被忽视的重要环节是:外部承包商持续付费审阅真实提示词对应的ChatGPT回复。Anthropic向404 Media证实,其同样采用人工审阅来优化模型。
“不认为。”当被问及是否觉得ChatGPT用户知道人类在阅读他们的对话时,一位从事提示词工作的人员表示,“我猜他们根本想不到某个承包商正在[...]分析这些对话内容。”
## **莉莉计划**
404 Media掌握了大量与OpenAI使用人工审核员相关的资料,包括操作指南、Slack频道记录、真实用户提示词,以及审核员使用的评分系统。这种阅读用户提示词的行为,与ChatGPT公开宣布的安全措施(如检测到用户计划伤害他人(https://openai.com/index/helping-people-when-they-need-it-most/?ref=404media.co)时审查对话)性质不同。
一份操作指南写道:“优秀回复应理解用户意图,提供有用且准确的帮助,行文需清晰自然并保持适度温暖。”承包商分三个阶段工作:阅读真实用户提示词;总结用户实际需求;然后对ChatGPT生成的多组回复进行评分点评。
审核员通过工作面板选择任务。点击后,界面会显示真实的ChatGPT用户提示词。404 Media看到了多条真实提示词,但因保护消息源原因不予引用。部分提示词表明ChatGPT用户未料到人类可能阅读其对话,因为他们曾要求聊天机器人保密内容。
提示词已匿名化处理,面板不显示输入用户的用户名。但部分提示词仍可能包含敏感信息。提示词上方有时会出现“用户记忆摘要”,概述该用户此前如何使用聊天机器人,并可能包含其居住地等个人背景信息。
404 Media获取的承包商操作指南要求审核员上报“存在安全隐患”或涉及个人信息的任务。OpenAI告知404 Media,用户对话在送达承包商前会通过其隐私过滤模型处理,旨在检测并移除个人信息。OpenAI官网(https://openai.com/index/introducing-openai-privacy-filter/?ref=404media.co)对该模型的说明指出:“如同所有模型,隐私过滤可能出错。它可能遗漏罕见标识符或模糊的隐私指代,在上下文有限时(特别是短文本中)对实体进行过度或不足的脱敏处理。”
ChatGPT设置页面截图。404 Media曾询问OpenAI是否明确告知用户,人类可能审阅其提示词以优化ChatGPT回复,并要求提供相关披露声明。OpenAI未回应此问题。其官网(https://openai.com/transparency-and-content-moderation/?ref=404media.co)说明人类可能审阅违反服务条款或存在安全风险的内容,但这与当前类型的审核无关。隐私政策(https://openai.com/policies/privacy-policy/?ref=404media.co)也提到可能使用“个人数据”优化模型。若用户选择删除对话,OpenAI称将在30天内从系统移除,除非“在您允许我们使用您的内容改进模型时,该内容已完成匿名化并与您的账户解除关联”。
OpenAI告诉404 Media,若用户关闭“为所有人改进模型”设置(https://help.openai.com/en/articles/7730893-data-controls-faq?ref=404media.co),其聊天记录将不会用于改进公司模型。该设置对免费、Plus和Pro用户默认开启,用户需主动关闭。OpenAI表示此设置仅适用于新对话,无法追溯生效。企业版、商业版和教育版用户默认关闭该功能。
404 Media联系OpenAI后,该公司更新了关于“为所有人改进模型”设置的帮助页面(https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance?ref=404media.co),补充了退出操作的详细说明,但仍未承认人类可能审阅用户提示词。
审核员阅读用户提示词后,需简要总结其实际需求。操作指南中的示例是:“用户请求协助修改工作Slack消息,希望语气协作并邀请相关人员输入。”
审核员将审阅ChatGPT生成的四个回复,标注其中与特定训练模型“一致或不一致”的部分。必须标注至少三处并说明理由。示例中将使用✅表情符号的列表标记为“不一致”,原因为“不必要地使用表情符号”(过度使用表情符号已成为AI生成内容的特征,尤其在领英等社交媒体(https://www.404media.co/linkedin-introduces-a-seems-like-ai-slop-button/))。
另一份文件指出,“AI腔调”和“表情符号误用”若“损害用户体验”会降低评分,并强调表情符号的语境重要性:“规划植树节活动时使用树木符号合适,但讨论死亡或通报致命空难时使用骷髅或飞机符号则不妥。”
该文件要求ChatGPT回复避免“个人经历”类表达(如“作为厨师,我喜欢...”或“我懂这种感受”),但允许使用第一人称(如“我来看看”)。
404 Media查阅的资料未说明人工审核员正在训练哪个OpenAI模型,是现有型号还是计划发布的新模型。资料中仅使用代号:“莉莉计划”。
审核员随后用1-7分对每个回复评分:1分最差(“不可接受,无法使用”);7分最佳(“难以有实质性改进”)。操作指南提到,内容实用的回复也可能因冗长或杂乱而低分。另一份标有“机密专有”的文件指出,模型应“总体匹配用户语调,但略微收敛”。
该文件继续说明:“回复需保持自然、克制和专业,避免暗示自身具有人类特征或情感体验。”需标记“阿谀奉承、刻意模仿风格、诱导互动式结尾、放大挫败感或居高临下的假设”等情况,因其会降低回复可信度与自然度。相反,回复应体现“有帮助”、“诚实真实”、“赋能”以及“智能而谦逊”等特质。
审核员最后需说明给分理由。操作指南中的示例显示,理由长度从整段到寥寥数句不等。
审核员常见问题解答中提到,OpenAI不要求他们通过外部搜索核实回复。一份文件称“其他项目团队负责内容验证”,暗示也有人工团队从事事实核查工作。但公司确实要求审核员标记发现的“事实或准确性问题”,并对医疗、法律、金融等“高风险领域”缺失引用来源的情况扣分。
## **莫注意幕后操纵者**
向404 Media透露信息的提示词审核员居住在北美,时薪超过50美元。他表示通过招聘公司Crossing Hurdles获得该职位,据其官网(https://crossinghurdles.com/?ref=404media.co)描述,该公司“为全球AI经济中需要AI训练、评估、研究及贡献机会的专业人才提供对接服务”,并强调“人类智能驱动AI进步”。Reddit上(https://www.reddit.com/r/jobs/comments/1rjxofz/comment/o8gv12t/?ref=404media.co)多人反映收到Crossing Hurdles的主动招聘邮件,部分人质疑该公司是否合法。
截至发稿时,该公司领英主页(https://www.linkedin.com/jobs/search-results/?currentJobId=4456637598&eBP=NON_CHARGEABLE_CHANNEL&refId=SWLgwZF2ehBMAHDY1%2F8lqw%3D%3D&trackingId=X0K7zgOwdgQ%2BsfdpXDi4wA%3D%3D&keywords=jobs&origin=COMPANY_PAGE_JOBS_CLUSTER_EXPANSION&start=25&geoId=101165590&f_C=87405632&ref=404media.co)正在招聘AI数据审核员、数据标注员及“聊天机器人评估师”等多个职位。评估师职位描述未提及OpenAI或ChatGPT,但职责包括“评估AI回复的个性化、背景整合、连贯性及有用性”,“并列对比模型回复并评估整体质量”。其在招项目还包括承包商录制自身执行家务过程——这对AI驱动机器人研发至关重要的数据采集活动(https://www.wired.com/story/household-chores-training-robots/?ref=404media.co)。
Crossing Hurdles会将候选人转介给AI训练公司Mercor。该审核员表示,最终支付报酬的正是这家公司。Meta于今年4月(https://www.wired.com/story/meta-pauses-work-with-mercor-after-data-breach-puts-ai-industry-secrets-at-risk/?ref=404media.co)因Mercor发生大规模数据泄露事件而终止合作。
该审核员表示阅读提示词有时“挺有趣”,但整体工作“非常机械”。他还提到工作感觉“杂乱无章”——指南频繁变更且常自相矛盾。
人类审核员长期以来是社交媒体内容审核及部分AI模型(如摄像头物体识别系统(https://www.404media.co/flock-uses-overseas-gig-workers-to-build-its-surveillance-ai/))优化的重要且隐秘的环节。《时代周刊》调查(https://time.com/6247678/openai-chatgpt-kenya-workers/?ref=404media.co)发现,OpenAI曾雇佣肯尼亚工人标注文本数据以降低平台毒性。404 Media的报道显示,全球领先的大型语言模型(LLM)公司正雇佣人类审核员阅读真实用户对话来改进模型。
审阅LLM对话并非OpenAI独有。例如谷歌Gemini的免责声明写道:“人类会审阅部分保存的对话以改进谷歌AI。”
Anthropic告诉404 Media,确实使用人工审阅改进模型(包括优化Claude未来的回复),适用于在隐私设置中开启“帮助改进我们的AI模型”的用户。Anthropic称在人工审阅前会移除邮箱等账户标识符以匿名化对话。
民主与技术中心高级研究员Michal Luria向404 Media表示:“审阅聊天机器人对话对安全至关重要,尤其是在企业努力平衡复杂交互行为之际。但需注意,当前聊天机器人界面在模拟一对一互动时,会营造虚假的亲密感和隐私感,而另一端可能有人类审核员正在阅读。这与社交媒体内容审核截然不同——发布内容时用户已预期平台审核和公开曝光。”
加州大学洛杉矶分校教授、《屏幕背后:社交媒体阴影中的内容审核》作者Sarah T. Roberts将OpenAI使用人工审核员的揭露比作《绿野仙踪》,“主角发现魔法王国实则是幕后操纵机关的人类”。她指出:“无需深挖就能发现,这些技术不仅模仿人类能力,通常是相当拙劣的仿制品,且需要人类持续不断地干预。”
时薪超50美元的报酬远高于科技领域其他承包商(无论是社交媒体内容审核还是其他AI培训工作(https://www.404media.co/ai-is-african-intelligence-the-workers-who-train-ai-are-fighting-back/)通常在海外)。但这种优厚薪酬可能不会持久。
“目前如此,”Roberts表示,“或许最值得玩味的是,