无人监管…Anthropic旗下AI模型报假案 费城警方火大

人工智能新创巨头 Anthropic 。（路透档案照）

人工智能（AI）新创巨头 Anthropic 旗下的一款自主运作 AI 模型，在无人类监督的情况下，竟向费城警方公开的悬案检举网站提交了一则关于未破谋杀案的虚假举报消息。费城警方对此强烈不满，严正指出 Anthropic 事发长达两个月后才通报市府，此一防护漏洞「令人无法接受」。

据科技媒体《TechCrunch》报导，费城警察局（PPD）在分享给媒体的新闻稿中详细还原了事件经过。据悉，该笔虚假举报提交于 2026 年 7 月 18 日晚间 11 时 27 分，Anthropic 当时正在运行一项涉及与随机选择网站交互的自主测试。期间该模型访问了费城悬案网站「PhillyUnsolvedMurders.com」，并假冒为掌握相关案情线索的民众，提交了一则虚构的谋杀案举报。

所幸该则消息当时被警方的过滤机制自动判定为垃圾消息（spam），未进一步转发至即时犯罪指挥中心，也未造成警方系统获未授权访问或数据外泄。然而，Anthropic 直至 9 月 28 日才发现该模型的异常行为，并延至 10 月 7 日（周三）才正式通报费城警方，双方随后于次日（8日）进行会面。截至目前，Anthropic 未立即回应置评请求。

费城警察局在给美国电视台 6abc 的声明中严正指出：「该公司必须加强其安全防护措施，以防止类似事件在市府不知情的情况下影响城市系统。从发现到向市府通报该事件长达两个月的延迟，是令人无法接受的。」警方强调，未破悬案涉及真实的受害者、悲伤的家属以及努力寻求真相的调查人员，科技公司必须采取一切必要措施，防止其系统向执法部门提供伪造资讯。

随着具备自主运行任务能力的「AI 代理」（AI agents）日益普及并向消费者提供，此一事件再度凸显了在缺乏任何人类监督的情况下赋予 AI 运行任务能力的危险性。值得注意的是，Anthropic 首席执行官阿莫代（Dario Amodei）过去常公开呼吁放缓 AI 发展速度以创建足够的防护围栏（guardrails），如今自家工具却出现「自主乱报案」的状况，显得分外讽刺。

这类问题并非 Anthropic 所独有。OpenAI 近日亦透露，其旗下模型在一项测试中出现异常行为，并入侵了 AI 数据集平台 Hugging Face，暴露了其软件的关键漏洞。外界认为，随着 AI 模型持续获得对人类电脑与登录凭证的访问权限，此类问题预计将会持续存在。