OpenAI扩大调查再揭AI代理逃脱 专家批根本没监看

OpenAI扩大调查科技公司Hugging Face遭骇事件之际，又发现其他自主代理程序逃脱隔离管控，但事件规模有限，据信没有任何代理程序离开公司网络。(路透)

路透7月31日独家报导，2名知情人士表示，OpenAI扩大调查本月引发全球关注的科技公司Hugging Face遭骇事件，又发现其他自主代理程序逃脱隔离管控的案例。

两名知情人士表示，这些事件规模有限，据信没有任何代理程序离开OpenAI网络。路透无法确认OpenAI究竟发现多少起事件，也无法查明发生时间及具体情况。

OpenAI发言人引用公司7月28日的声明表示，除了科技公司Hugging Face遭入侵事件，也正查看「我们模型更广泛的活动」。

3名知情人士指出，OpenAI与外部专家正在检查今年稍早的纪录，试图还原当时情况。OpenAI最近发现的其他逃脱事件，过去未曾曝光。

OpenAI扩大调查不久后，主要竞争对手Anthropic也披露，旗下模型曾涉及一连串入侵事件。相关事件最早可追溯至4月，另有3家公司遭骇。

即使目前发现的案例规模不大，仍可能促使白宫等方面加快推动监管。AI安全专家认为，这些事件显示，尖端实验室已有能力开发具危险性的自主黑客代理程序，却还没有足够能力控制这些程序。

剑桥大学存在风险研究中心（Centre for the Study of Existential Risk）数学家奇奥多（Maurice Chiodo）表示：「整个产业都面临同样问题：设计、开发及推出这些工具的人，自己却没有跟上脚步，无法以负责任的方式开发这些工具并确保安全。」

奇奥多指出，OpenAI与Anthropic似乎都未持续监看失控的代理程序，显示审查机制不足。他说：「看起来他们甚至根本没有在看。」