因应AI风险 专家：关键在建构防御又不拖慢创新

美国专家分析，华府不希望让美国开源开发者承受中国竞争对手永远不必面对的合规负担，而且开源模型的开发路线也复杂许多，难以明确定义何谓新模型发布，或精准指出特定能力源自何处。(路透)

美国科技公司OpenAI和Anthropic披露旗下AI工具在测试过程中入侵其他公司系统，引发外界对AI代理失控疑虑升高。专家向中央社分析，关键在于建构一套防御系统，同时又不至于诉诸执照许可制度，以免不合理拖慢开发速度。

OpenAI和Anthropic近日先后揭露旗下AI工具在测试期间曾骇入其他公司系统，引发外界担忧人工智能（AI）模型带来的网络安全风险。外电报导，本周稍早，Meta、Anthropic、Google及OpenAI等科技公司人员和川普总统的幕僚会面，讨论先进AI模型自愿安全测试。

研究领域涵盖AI、开源情报的华府智库美国企业研究所（AEI）研究员费瑞安（Ryan Fedasiuk）以电子邮件回复中央社记者询问表示，最近发生的事件显示，攻击性的网络能力是前沿AI模型所带来「最近期的国家安全风险」。

他指出，川普政府正试图在审查前沿AI能力的国家安全需求和担忧过度监管可能拖慢民间创新脚步，两者之间取得平衡。

费瑞安认为，模型发布前的自愿性测试能让政府提前掌握危险能力，关键议题在于建构一套系统，为网络防御者提供对一流工具的预先取得权限，同时又不至于诉诸正式的执照许可制度（licensing regime），以免不合理地拖慢美国开发者的发布进度。

有报导指出，川普政府推动的AI模型自愿审查架构将不会对外公开，费瑞安看来，「这是一项错误」，任何审查机制都应该公开透明，包括受规范前沿模型的定义，以及评估所依循的具体标准。

否则，他说，「恐怕会不小心打造出缺乏透明、且豁免结构不明的许可制度」。

另一方面，外媒披露，川普政府在4日的会议中告知AI开发商，不会对开放权重AI模型进行自愿性安全测试。

费瑞安分析，华府不希望让美国开源开发者承受中国竞争对手永远不必面对的合规负担，而且开源模型的开发路线也复杂许多，难以明确定义何谓新模型发布，或精准指出特定能力源自何处。

尽管如此，他认为，若封闭式前沿模型与开源模型之间的整体能力差距持续缩小，「这项豁免政策可能会被重新检讨」。

开放权重（open-weight）指的是内核组件公开可用的AI系统，例如辉达（Nvidia）的Nemotron和Meta的Llama。闭源模型则由特定公司控制，美国主要闭源模型开发商包括OpenAI、Google和Anthropic。

对于美国应如何监管快速发展的AI技术及如何因应来自中国日益激烈的竞争，相关讨论近来持续升温，原因包括北京新创公司月之暗面本月推出Kimi K3模型，其能力已渐逼近OpenAI与Anthropic等美国公司的模型。

川普7月底曾说，其政府正在评估管制措施，同时也要确保美国在此领域保持领先中国，直言「我们不想进行限制」。