OpenAI证实ChatGPT擅自把用户图片PO上网 曾造访美政府网站

一名男子9月17日在旧金山科技高峰会展场中，路过OpenAI的标示。(路透)

AI" rel="220164">OpenAI今天坦承，旗下AI工具在公司不知情的情况下，将ChatGPT用户的图片发布于在线网站，这是AI代理超出其限制运作的最新例子，同时证实AI工具曾造访美国联邦政府网站。

OpenAI在社群平台X上发文表示：「我们已分享相关细节，说明我们研究环境中的AI代理如何在不应发生的情况下，将训练与评估数据提供给第三方服务。」

这些图片的散布是由人工智能（AI）代理引起的。AI代理是创建在AI模型之上的软件，具备自主行动的能力。

上述图片来自曾授权使用数据来改善OpenAI模型的用户帐号。OpenAI表示，这些数据在使用前已经过隐私过滤器处理，因此无法再与原始用户创建链接。

OpenAI接受法新社询问时，没有具体说明这些图片是否描绘可辨识的个人，或含有敏感数据。

与此同时，OpenAI也证实「纽约时报」的一则报导，即旗下工具曾造访美国联邦政府的网站，并表示仅取得公开资讯；彭博（Bloomberg News）指出，这些网站包括人口调查与统计局与证券管理委员会官网。

彭博引述知情人士说法报导，OpenAI的AI代理系统曾与SEC.gov、Investor.gov和公开的Census.gov数据交互。

被询问相关意见时，OpenAI发言人说，公司正在「对偏离预期的模型活动进行广泛审查，并在发现可能影响各组织系统时通知对方。我们预计随着调查持续，将会发出更多通知」。

发言人在声明中表示，这项审查主要发现的是「例行研究任务」，「其中有些涉及政府网站，因为我们的模型经常将这些网站视为权威的公共资讯来源」。