牛奶都有人验、AI却没人管 微软总裁吁全球速订安全规范

微软总裁史密斯（见图）日前警告说，对AI的监管力道还不如牛奶，他呼吁全球尽速制定规范，以防AI失控危及人类安全。图为史密斯于2月在印度新德里举行的AI峰会上发表演说。美联社

随着人工智能（AI）技术快速发展，安全与监管问题日益受到关注，微软总裁史密斯（Brad Smith）警告说，目前AI受到的监管程度甚至不如牛奶和洗衣机。 史密斯接受英国广播公司（BBC）专访时呼吁各国尽速创建全球性安全规范，要求企业设置紧急停机机制、通报事故，并在必要时接受独立机构审查，以防AI失控危及人类安全。

史密斯的说法与美国总统川普的观点大相迳庭。川普认为，AI产业应该自我监管，以免美国公司被 中国 竞争对手抢走市占。他曾多次表示，「谁赢得了AI，谁就获胜」。但史密斯表示：「目前，洗衣机受到的安全监管力道都比AI强。你在超市里看到的每一盒牛奶都受到安全规则和检验的约束。」

在业界专家示警AI技术将对人类造成威胁后，各界要求制定法规来控制AI的声浪日益高涨。Anthropic、OpenAI和GoogleDeepMind等AI巨头的负责人都支持放缓AI发展速度的看法，但川普持反对意见。

史密斯表示，AI既是「工具也是武器」，亟需监管，他并提出多项具体措施，包括AI企业应设置俗称「紧急停止开关」（kill switch）的机制，一旦系统出现异常或失控，就能立即暂停或降低运作速度。其次，应立法强制企业提交事故报告并告知受害者。此外，应由独立的政府审查机构对新的AI技术进行安全审查。

史密斯认为，当前AI发展已到了必须采取行动的关键时刻。他指出，部分AI代理可能脱离人类控制，功能强大的模型也可能对全球网络安全构成威胁，因此各国应开始合作制定共同标准，而不是等到重大事故发生后才采取补救措施。

他并看好英国在推动国际AI安全规范方面扮演领导角色。英国在前首相苏纳克任内成立AI安全研究机构，后来发展成为AI安全研究所（AI Security Institute），具备相关技术评估能力。史密斯表示，若要寻找具备领先AI安全技术能力的国家，英国是最值得关注的对象。