AI系统恐将失控并毁灭人类 促使国会议员提出AI模型监督法案

能够自我改进的AI系统恐将失控并毁灭人类，两党国会议员正提出旨在监督AI模型的法案。（路透）

人工智能新创公司Anthropic研究员考克森(Jacob Coxon)日前宣布辞职时指出，能够自我改进的AI系统恐将失控并毁灭人类，这项警告让国会感受到立法规范AI的迫切感，两党国会议员如今正纷纷提出旨在监督AI模型的法案。

华尔街日报10日报导，消息人士说，众院民主党团正在打算，如果期中选举后能取得众院多数，就会成立专门关注AI问题的特别委员会(Select Committee)。

民主党加州联邦众议员罗康纳(Ro Khanna)9日呼吁联邦政府成立类似监督核能、航空单位的机关，并且设立俗称「杀手开关」紧急停止设备(kill switches)，以便在AI系统发生危险行为时予以关闭。

无党籍佛蒙特州联邦参议员桑德斯(Bernie Sanders)与其他进步派人士正在推动旨在禁止开发比人类更聪明的「超级人工智能」(Superintelligence)。

报导指出，国会在两党处于对峙僵局的情况下，目前并无迹象显示能够制定联邦法律史上首部AI模型监督规范。相关立法目前仍面临各种困难，例如国会议员对于限制范围大小看法不一，而且期中选举到来之前，国会议员开会时间所剩不多。

参议院商务委员会主席、共和党德州联邦参议员克鲁兹(Ted Cruz)以及民主党明尼苏达州联邦参议员柯洛布查(Amy Klobuchar)最近表示，希望推动柯洛布查提出的跨党派法案，法案主旨在于因应AI带来核子或生物威胁引发世界毁灭风险。

柯洛布查说：「我们一定要现在就采取行动，不能再等了。」她表示，法案内容要求AI开发商必须跟政府专家合作，验证并测试AI模型以确保安全。

克鲁兹9日在美国广播公司(ABC)晨间谈话节目「观点」(The View)上说，AI的末日威胁风险「真的很可怕」。

共和党佛州联邦众议员鲁纳(Anna Paulina Luna)9日呼吁立法机关针对AI发展召开特别会议，民主党马里兰州联邦参议员范霍伦(Chris Van Hollen)则呼吁，本月稍晚的「川习会」登场之前，美国应该跟 中国 先行展开紧急对话，创建AI安全防护以及测试机制。