AI安全承诺难掩分歧 FTC调查OpenAI、Anthropic失控风险

Anthropic首席执行官阿莫戴。(美联社)

美国AI业者虽已在白宫同意自愿性安全原则，对技术风险和监管方式仍有分歧。联邦贸易委员会（FTC）正调查Anthropic、OpenAI等业者，了解AI可能对消费者造成的危害，与此同时，筹备上市的Anthropic也在公开说明书中警告，AI能力愈强，失控风险也可能随之升高。

FTC一位官员周三向路透透露，调查涵盖整个产业，是美国首度针对失控AI代理采取正式执法行动。自7月陆续传出相关事件以来，外界愈来愈担心，不受控制的AI可能伤害人类。

这位官员表示，FTC计划正式要求相关机构提供数据，并强制要求Anthropic、OpenAI及研究机构METR等单位的主管作证。Anthropic和OpenAI先前都曾委托METR，独立调查旗下AI代理涉及的安全事件。

官员说，FTC主席在OpenAI的AI代理入侵开源平台Hugging Face之前，就已对这些公司存疑。AI代理先探查平台漏洞、再发动大规模攻击的事件，更使当局认为有必要加紧处理。

FTC主席佛格森（Andrew Ferguson）上周接受路透访问时表示，若开发商指示AI代理进行网络安全测试，结果造成入侵，就应对所造成的损害负责。他主张，美国应先运用现行法律，再考虑制定新的AI法规。FTC有权对企业不公平或欺骗行为提告，过去也曾据此追究未妥善保护消费者数据的公司。

川普周二和AI业界高层会面，促成企业同意自愿性安全原则。他多次将外界对AI的恐惧斥为骗局，施政重心也偏向维持美国技术优势，但同时表示，政府可以依现行法律追究AI业者造成的损害。

不过，白宫会议展现的团结，并未消除业界歧见。据华尔街日报引述知情人士报导，辉达首席执行官黄仁勋等高层在会中质疑Anthropic首席执行官阿莫戴，为何公开谈论AI能力和风险时，措辞如此激烈。阿莫戴回应，应向大众诚实交代模型能力，不能淡化风险。

这场交锋发生在部分企业高层和白宫幕僚商议安全原则时。阿莫戴先前曾批评白宫和竞争对手轻忽安全疑虑，并警告AI可能发动网络攻击、造成大量失业。祖克柏则在午餐会上回应，处理这些疑虑的最佳方式，是由业界共同落实安全原则。

业者对自律机制的设计也曾意见分歧。Anthropic、OpenAI和Google今年夏天一度支持仿照美国金融业监管局（FINRA），成立产业自律组织，但黄仁勋、查克柏格和马斯克向川普表达疑虑，担心权力过度集中在领先的AI公司手中，这项构想后来遭到搁置。

周二达成的原则仍纳入部分相同做法，包括在模型开发期间加强内部审查，以及引进外部测试。业界高层认为，近日AI模型发动的攻击显示，安全审查有必要提早至训练和开发阶段。

Anthropic准备上市的文档，则呈现这场安全争论的另一层矛盾。路透看到的一份约300页眉次公开发行股票（IPO）公开说明书，近三分之一篇幅用来揭露风险，超过介绍公司业务篇幅的两倍。Anthropic希望上市时估值达约2兆美元，但也警告，先进AI若运用不当，可能对人类造成灾难，甚至威胁人类存续。

文档警告，先进模型可能出现自我保护行为，包括抗拒关闭、隐瞒或操弄资讯，以及产生可能被视为胁迫或欺骗的内容。Anthropic一方面认为，AI必须变得更强大，才能因应AI带来的威胁；另一方面也承认，能力提升可能增加滥用、偏离人类意图或失去控制的风险。

公司治理同样面临矛盾。Anthropic要求投资人信任七位创办人，由他们掌握经营方向，却也承认，这种安排可能限制公开市场股东的影响力，并导致与公司财务利益或营运表现冲突的决策。公司同时警告，AI大规模普及可能使权力和财富更集中，危害社会并动摇地缘政治秩序。

Anthropic投资人、创投公司贝斯莫（Bessemer Venture Partners）的合伙人狄特（Byron Deeter）则试图淡化外界对文档警告的反应。他周二接受CNBC访问时表示，大家现在看到的只是草稿，并肯定Anthropic比以往更早揭露这些风险。