纽约市议会推AI监管 拟设「紧急终止开关」、奖励吹哨者

市议会议长梅宁(Julie Menin)近日提出一系列人工智能(AI)监管法案，拟要求在纽约市营业的AI公司接受第三方安全验证。(取自市议会Flickr)

纽约市议长梅宁(Julie Menin)近日提出一系列人工智能(AI)监管案，拟要求在纽约市营业的AI公司接受第三方安全验证，并为系统设置可由人类操作的「紧急终止开关」(kill switch)；另一项提案则以罚款收入，奖励揭发违规企业的吹哨者。

全体51名市议员将于10月5日(周一)举行罕见的全体听证会，讨论快速发展的AI对市民构成的风险。梅宁已致函五家主要科技企业负责人，要求Anthropic首席执行官阿莫代(Dario Amodei)、OpenAI首席执行官奥特曼(Sam Altman)、Google首席执行官皮查伊(Sundar Pichai)、马斯克(Elon Musk)及Meta首席执行官祖克柏(Mark Zuckerberg)出席。

根据提案，科技公司未经外部专家核实内部安全说法，不得在纽约市内推广、销售或部署AI系统；在市内使用的AI工具也须设置可由人类介入、即时关闭系统的机制。每项违规最高可罚2万5000元。

梅宁表示，市府希望鼓励纽约发展为全球科技及AI重镇，但这也意味当局更有责任设置适当防护，避免无心造成的后果。她指出，纽约市监管各行各业，多家主要AI公司也在此设点，这项新兴科技却几乎未受规管。

市议会表示，提案适用于在市内设点并向市民提供服务的企业，可由市府执法；若监督未同步加强，前沿AI模型恐带来灾难性风险。

这套市级法案与州府近期行动相呼应。州长霍楚(Kathy Hochul)日前宣布，AI公司11月起须在州府网站登记，并在重大安全事故发生后72小时内通报；她也未排除采用终止开关。