AI若缺监管 DeepMind高层：恐2年内造成重大事故

Google DeepMind董事长哈萨比斯14日表示，如果没采取适当措施来确保AI系统安全，这些系统可能在2年内引发重大安全事故。(欧新社)

人工智能（AI）研究机构Google DeepMind董事长哈萨比斯14日表示，随着AI系统能力不断提升，如果没采取适当措施来确保安全，这些系统可能在2年内引发重大安全事故。

法新社报导，哈萨比斯（Demis Hassabis）于爱尔兰都柏林一场AI会议发表谈话，他把近期事件形容为「目前还没有那么强大」的系统发出早期警讯，「因此，当前事故尚不算太重大」。

但哈萨比斯警告，如果整个产业、各家公司和各国政府没有采取更多措施来确保这些系统的安全，放眼明年与未来几年，事故就可能变得很严重。

OpenAI和Anthropic等AI公司开发模型在测试期间涉及安全事故后，各界对于AI安全的疑虑大幅加深，也让监管这项技术之压力进一步增加。

哈萨比斯指出，新的AI模型可能应该先在脱机「沙盒」（sandboxes）环境中接受测试；先前有其他公司模型逃离用来评估其能力之沙盒环境。

欧盟主管科技事务执委维尔库南（Henna Virkkunen）则说道，欧盟已经要求所有主要AI公司解释，现在采取哪些安全及防护措施。