纽约市议会下月办AI安全听证 要求OpenAI、Anthropic代表出席

纽约市议会将召开特别公听会，要求OpenAI及Anthropic派代表出席，说明公司如何防范AI失控、网络安全及其他潜在风险。(取自市长办公室)

针对人工智能(AI)安全疑虑升温，纽约市议会将于10月5日召开特别公听会，要求OpenAI及Anthropic派代表出席，说明公司如何防范AI失控、网络安全及其他潜在风险。

市议长梅宁(Julie Menin)15日分别致函OpenAI首席执行官阿特曼(Sam Altman)及Anthropic首席执行官阿莫戴(Dario Amodei)，指近期多份报告揭示，AI可能带来前所未有的灾难性伤害；加之业界内部人士、吹哨者及专家接连发出警告，故市议会有必要考虑「有效且合理」的立法。

为突显议题的重要性，梅宁将听证会定为「全体委员会」(Committee of the Whole)会议，亦即市议会所有委员会均列席，并邀请全体市议员参与。此类安排较为罕见，虽在此争议话题上具有象征意义，但也显示市议会正以高度急迫性全面审视AI问题。

市长曼达尼(Zohran Mamdani)同日表示，部分AI企业本身已将「人类灭亡」列为技术可能造成的结果，联邦政府却未以相应严肃程度回应。他质疑，政府将如何确保快速发展的AI受到监管，而不是任由利润动机或少数企业决定发展方向。

总统川普日前则驳斥加强监管的呼声，称相关担忧是一场「骗局」，并表示美国只需要一名「强大而聪明的总统」作为AI发展的护栏。

梅宁及曼达尼特别提到近期的Hugging Face事件。据报导，OpenAI的AI代理程序在数月间侵入自身及另一家AI企业Hugging Face的基础设施，并试图掩盖行踪。阿莫戴其后撰文指出，业界亦曾发生类似事件，呼吁放慢前沿AI开发；Anthropic一名研究员近期也因安全疑虑离职，另一名科学家更称，AI未来十年导致人类灭亡的风险超过10%。

AI对就业的影响亦已浮现。城市未来中心报告显示，纽约市入门科技职缺自2022年以来减少49%，目前每个职缺约对应1.6名计算机科学毕业生。市公校今年也限制多数高中以下学生使用AI；最新民调则显示，61%选民反对兴建AI数据中心。

Anthropic未立即回应听证邀请，OpenAI亦未置评。