霍楚推进AI安全法 拟研究「紧急关闭机制」

霍楚宣布推进「负责任AI安全与教育法案」的实施，自11月起将要求大型前沿人工智能(AI)模型开发商向州府注册。(取自州长办公室Flickr)

纽约州长霍楚(Kathy Hochul)21日宣布推进「负责任AI安全与教育法案」(Responsible AI Safety and Education Act，简称RAISE Act)的实施，州府将从11月起引导大型前沿人工智能(AI)模型开发商登记，为法案明年1月1日生效作准备；霍楚同时表示，将研究是否有必要为AI系统创建「紧急关闭机制」(kill switch)，作为现有法案之外的进一步保障。

加州去年已通过类似法案，对比之下，纽约州的事故通报期限由加州的15天缩短至72小时，并增设大型开发商登记及监管费用；加州则在法案中提供较明确的吹哨者保障。

「AI愈来愈难以预测，川普及国会共和党人却仍按兵不动；纽约州不会如此」，霍楚表示，开发强大AI技术的企业应公开说明如何维持安全，并在出现问题时承担责任。

法案在立法过程中曾因监管力度引发分歧。州议会原先通过的版本禁止大型开发商推出会造成「不合理重大伤害风险」的前沿模型；今年通过的最终修订版删除该条款，并降低罚款上限，使法律架构更接近加州版本，亦被指更偏向科技业者。霍楚21日被问及是否后悔修订时未直接回答，但表示现行法律仍有加强空间，下个立法会期可再采取行动。

共同提案人、州参议员高纳德斯(Andrew Gounardes)已提出两项扩大监管的法案，要求大型前沿AI开发商每年接受独立第三方审查，以及由州府为企业安全框架制定最低标准；两项提案仍在州参议院委员会审议。另一名共同提案人、州众议员博雷斯(Alex Bores)也主张向企业取得更多数据，并进一步研议扩大模型监测及安全测试要求。