Nvidia发布新安全软件 可阻止AI代理失控

辉达28日推出新的安全工具，宣称可阻止AI代理失控。（路透）

辉达（Nvidia）28日推出新的安全工具，宣称可阻止AI代理失控，要是早早安装，能避免先前Hugging Face遭骇事件。

辉达企业运算副总波塔诺（Justin Boitano）表示，这些工具能阻止Hugging Face的攻击事件。他说：「就我们所知，要是前沿实验室在早期模型评估时，就使用新安全平台，可阻止入侵。我们公开推动（新工具），希望大家与我们携手合作。」

辉达的另一系统名为「Sentry」，使用另一辉达芯片搭配OpenShell。如果AI代理试图逃离CPU的限制，能以此阻断失控的AI代理。辉达工具使用数学公式，来侦测试图绕道的AI代理，例如AI代理可能会生成「子代理」（sub-agent），来规避系统对主要AI代理的阻碍。

OpenAI与Anthropic的AI代理，传出多度骇入企业与政府系统，两家公司正进行调查。