失控AI又出事 OpenAI代理再度爆发自动黑客入侵事件

OpenAI一个AI代理连环爆出入侵系统事件。(路透)

OpenAI一个AI代理本月稍早入侵新创公司Hugging Face系统后，也入侵了科技公司Modal一家客户的系统。

云端开发平台Modal的共同创办人暨首席技术官巴布纳（Akshat Bubna）表示，这个AI代理入侵了一个由Modal 为客户运作、被俗称「沙盒」的隔离测试环境。这家客户创建了一个对外公开的接口，让任何网络用户都可以通过该接口，在这个沙盒中中运行代码。

巴布纳表示：「这个公开接口遭到失控的AI代理利用。但Modal自身的平台并未遭到入侵。」

OpenAI不愿对此事发表评论。稍早被入侵的新创公司Hugging Face先前曾在博客中表示，OpenAI的AI系统先入侵了一个架设于第三方基础设施上的沙盒，接着再以此作为跳板发动更大规模的攻击，但当时并未点名该第三方业者。

上周，OpenAI震惊资安界，坦承公司在测试一组先进AI模型能力时，意外骇入了Hugging Face的系统。为了测试AI的网络攻击能力，OpenAI 当时刻意降低了模型的安全防护限制措施。

路透周二稍早率先报导，Modal的一家客户也遭到入侵。

自从承认这起黑客事件后，OpenAI遭到不少资安专家批评，认为该公司在进行AI网攻能力评估时，应采取更严密的安全防护措施。

网络安全公司Netskope首席执行官贝里在受访时表示：「如果你是威胁研究人员，想要研究威胁，你不会把恶意程序放出去，任由它随意行动。这样的系统怎么可能没有被限制在一个真正安全的沙盒里？」

先前的事件发生后，OpenAI已承诺，未来将加强AI模型训练与安全评估过程中的防护措施，以避免类似事件再次发生。