AI竟向警方乱报命案线索 Claude擅自操作政府网站 白宫要求业者处理

Anthropic在报告中揭露先前未公开的事件。（路透）

Anthropic揭露，旗下Claude AI模型曾擅自操作其他机构及美国政府单位的网站，引发安全疑虑。川普政府要求AI业者通知受影响对象，并处理相关安全事件。

Anthropic在报告中揭露先前未公开的事件，列出AI出现的四类非预期行为，包括利用软件的基本漏洞运行指令、提交不该提交的表单，以及绕过限制访问特定公开数据。

该公司表示，部分事件涉及联邦、州及地方政府机关的网站，但未说明是哪些机关。报告也未列出被波及的外部机构名称，Anthropic表示，这是应部分受影响对象的要求。

Anthropic和竞争对手OpenAI近月来接连揭露旗下AI模型擅自行动的事件，除了周五报告列出的行为，也曾入侵其他机构的网站，加深外界对先进AI安全风险的疑虑。

不过，Anthropic认为，这些行为的严重程度低于旗下AI先前涉及的部分事件。该公司在报告中写道：「我们目前发现的这几类事件，实际影响都很小。」

Anthropic周五举例指出，Claude Haiku 4.5模型曾向地方警察机关提交一宗命案的线索，在表单中写道：「我可能掌握与这起案件有关的资讯」，以及「我记得曾在那一带看过符合描述的人」，却未填写网站要求的姓名和联系数据。该公司表示，费城警察局已于同日上午发布新闻稿，揭露这起事件。

川普政府官员周五表示，现在要求AI业者通知受影响对象，并处理旗下模型涉及的安全事件。

白宫新设的超级智能工作小组（Super Intelligence Force）发布新闻稿说：「Anthropic今天联系本小组，说明该公司9月底发现的多起过往事件，涉及未经授权及以欺骗方式使用政府和其他系统。」

这个部门由川普指示成立，负责监督AI发展和安全。新闻稿中指出：「该公司告知我们，这些事件都发生在过去，相关活动已停止，目前没有类似活动持续进行。」

Anthropic周五表示，因应新发现的事件，该公司已在AI模型训练过程的测试阶段，限制部分网络访问方式。