404 Media 曝光 OpenAI 莉莉计划：人工审核 ChatGPT 聊天记录以优化模型

404 Media 发布报道，披露 OpenAI 内部代号“莉莉计划”（Project Lily）的人工审核流程：人类阅读 ChatGPT 用户的提示词以改进模型，这些对话可能包含敏感个人信息。报道称其依据是泄露的内部文件以及 404 Media 看到的真实提示词。

The Decoder 援引 404 Media 的调查报道称，OpenAI 雇有数百名合同工阅读真实的 ChatGPT 用户对话，以改进聊天机器人的回复。这些审核员按 1 至 7 分给 ChatGPT 回复评分，任务是减少模型输出中过度谄媚和拟人化的表现。合同工经 Crossing Hurdles 招募、由 AI 训练公司 Mercor 付酬；一名北美审核员称时薪超过 50 美元。一名审核员对 404 Media 表示，他认为用户不知道有人在阅读他们的聊天记录；被审核的提示词也印证了这一点：部分对话中用户明确要求 ChatGPT 对内容保密。提示词经过匿名化处理，但仍可能包含敏感个人数据；OpenAI 使用隐私过滤器，但承认它可能出错。用户可关闭默认开启的“为所有人改进模型”设置，以阻止聊天被用于模型训练并可能被人工阅读，该设置仅适用于新对话；OpenAI 还提供临时聊天模式，据该公司称其输入数据不用于模型训练。

IT之家援引 404 Media 的报道称，OpenAI 内部这项评估项目代号为莉莉计划，从事该工作的人员被称为“提示词审核员”，其工作是查看经匿名化处理的真实用户聊天记录、评判 ChatGPT 回复质量，检查是否过度出现“AI 式话术”、说教语气、表情符号、谄媚口吻等问题，回复禁止拟人化表述、不允许编造“个人经历”。IT之家还称，莉莉计划并不专门核查回答内容事实上是否准确，仅标记显而易见的错误，这意味着至少还有另外一支或多支团队在开展独立的效果评估；这套评分审核也与排查用户伤害他人或自身意图的人工安全审查属于两套独立流程。