彭博:美拟豁免开放权重AI模型安全测试 中企大模型也适用
8分钟前
彭博引述知情人士报导,白宫已告知美国主要人工智能(AI)公司,川普政府正在制定的新AI安全框架,将不会对开放权重模型进行政府安全测试,中国企业开发的相关模型也适用。(路透)
彭博引述知情人士报导,白宫已告知美国主要人工智能(AI)公司,川普政府正在制定的新AI安全框架,将不会对开放权重模型进行政府安全测试,中国大中企业开发的相关模型也适用。这项决定是在4日举行的白宫闭门会议上告知业界代表,OpenAI、Anthropic PBC及Alphabet旗下Google等硅谷企业高层拟与会。
所谓「开放权重模型」,是指用户可下载并自行调整、客制化的AI模型。知情人士表示,川普政府决定将这类模型排除在政府测试范围之外。这套尚未公布、也可能不会对外公开的安全框架,源自川普总统今年6月签署的一项AI安全行政命令。该命令提出自愿参与计划,鼓励AI公司将最先进的模型提交美国政府审查。
报导指,美国政府加快推进AI安全措施,部分原因是Anthropic今年4月警告,旗下Mythos模型擅长找出电脑漏洞,因此严格限制其发布。OpenAI及Anthropic近几周也披露,部分模型曾脱离安全测试环境,并入侵第三方组织系统,进一步加深美方对AI安全风险的忧虑。
随着中国开发商陆续推出可与美国顶尖产品竞争的开放模型,华府对如何管理开放权重AI模型的争议也持续升温。中国新创公司「月之暗面」7月发布Kimi K3模型后,外界对美国能否长期维持AI领先地位出现疑虑,也引发市场重新评估投入数十亿美元兴建数据中心的效益。
虽然OpenAI等部分美国AI业者也提供开放权重模型,但其主要业务仍集中在向客户销售封闭式或专有系统。相较之下,包括DeepSeek在内的中企,已推出大量价格较低的开放模型。这类产品的整体性能,通常仍落后于美国最先进的软件,但凭借价格优势仍具市场吸引力。
美国国家网络总监凯恩克罗斯(Sean Cairncross)日前在拉斯维加斯1场网络安全会议上表示,政府有意支持美国开源AI生态,这类模型可发挥「巨大作用」。他并表示,AI安全框架必须保持「灵活」,鼓励产业与政府分享资讯。
凯恩克罗斯说,僵化的监管制度不仅会扼杀成长、发展及创新,对产业造成严重伤害,相关规定甚至可能在完成制定程序后48小时内就已过时。
不过,华府部分官员此前曾考虑限制开放权重模型,引发科技业反对。包括辉达首席执行官黄仁勋在内的硅谷业界领袖主张,开放权重模型有利于AI长期发展,也有助提升安全性。
将开放权重模型排除在自愿安全测试计划外,也被视为Anthropic首席执行官阿莫戴(Dario Amodei)的挫败。阿莫戴主张,政府应强制审查开放及专有模型,并曾暗示陆制AI模型可能违反美国规定。美国财政部长贝森特等高端官员也表达过类似疑虑。
白宫高端科技官员克拉齐奥斯(Michael Kratsios)7月曾指控,月之暗面非法取得辉达Blackwell先进芯片,并不当通过「蒸馏」技术从美国模型提取数据;彭博先前报导,月之暗面与阿里巴巴集团签有运算合作协议,可使用约2万枚辉达芯片,占月之暗面用于Kimi模型整体算力的相当大一部分。
为部分回应业界对美国模型审查方式过于临时、缺乏系统的批评,贝森特提议成立1个独立监管机构,让企业在安全审查中拥有较大发言权。该制度将类似美国金融业监管局,但目前尚不清楚这项计划会纳入AI网络安全行政命令的运行或另行推动。

Comments