OpenAI遭爆雇真人阅读对话来改善回复

报导称，OpenAI聘用数百名承包商，以人工方式阅读ChatGPT对话，以改善模型品质，但过程恐使个资流出。路透

科技媒体404 Media揭露，OpenAI通过名为「Project Lily」的计划，聘用数百名承包商，以人工方式阅读ChatGPT对话，以此改善模型回复问题的品质，但这些「真人」在审查过程中，也可能接触到私人资讯。

这些「提示词审查员」（prompt reviewers）的主要工作，是阅读经匿名化处理的真实对话，评估ChatGPT回复是否切题，以及是否过度使用「AI腔」等，据称时薪超过50美元。

OpenAI向404 Media承认，虽然对话会先经过匿名化处理，审查员也看不到用户名称，但过滤程序可能让部分个资流出，特别是简短的对话。交给审查员的数据，还包括「用户记忆摘要」，内容涵盖用户的提问、兴趣、相关背景，甚至所在位置。

一名审查员表示，他认为多数用户恐怕不知道自己的对话可能被他人阅读。

目前，ChatGPT的个人版Free、Plus和Pro版本，将「允许聊天纪录被用于改善模型」这个功能缺省为「打开」，企业版、Business及教育版则缺省为「关闭」。然而，关闭这项设置不具追溯效力，意味着先前对话仍可能留在数据库里，即使之后删除，也可能早已被匿名化并纳入某个数据集。

404 Media的报导刊出后，OpenAI修改其「辅助说明」页面，向用户解释如何退出数据搜集的选项，但并未提及人工审查人员。

这项计划的存在也显示，模型并非只靠技术进步和更优质的训练数据就能持续改善，看来仍需要人类参与其中。